收稿日期：2023年8月21日；录用日期：2023年9月4日；发布日期：2023年11月13日
摘要
人工智能技术发展的同时带来了一系列的法律风险问题，许多不法分子利用AI技术进行诈骗的犯罪行为屡见不鲜，并且以假乱真，让人防不胜防。本文以“福州市AI换脸诈骗案”为例，否定人工智能的刑事主体地位，分析出AI诈骗除涉及诈骗罪外，还面临侵犯公民信息罪、帮助信息网络犯罪活动罪、伪造身份证件罪等刑事法律问题。此外，为促进AI行业有序发展及信息数据的创新发展，本文对刑法干预限度进行分析，提出刑法在规制此类新型犯罪时，可以对利用AI犯罪的行为分类型按不同程度进行规制，即慎重认定数据获取、收集过程中的犯罪，从严打击数据利用过程中的犯罪。此外，刑法对于这类中立技术的规制应持审慎态度，以维持刑法的谦抑性，应充分发挥其他部门法的规制作用。
关键词
人工智能，AI诈骗，刑法干预限度
CriminalLawProblemsandInterventionLimitsFacedbyAIFraud
—Taking“FuzhouAIFace-ChangingFraud”asanExample
XiaoWu
CollegeofLaw,GuizhouUniversity,GuiyangGuizhou
Received:Aug.21st,2023;accepted:Sep.4th,2023;published:Nov.13th,2023
ABSTRACT
Keywords:ArtificialIntelligence,AIFraud,InterventionLimitsofCriminalLaw
ThisworkislicensedundertheCreativeCommonsAttributionInternationalLicense(CCBY4.0).
1.问题的提出
2.人工智能技术的概述
2.1.人工智能技术
人工智能(ArtificialIntelligence)，简称AI。人工智能是一门源于计算机科学控制论、哲学、信息论、心理学、语言学等多门学科的边缘新学科。最早在1956年Dartmouth大学的会议上，由“人工智能之父”麦卡锡(McCarthy)及一批心理学家、数学家等首次提出2。明斯基(MarvinMinsky)是人工智能的创始人之一，他以“让机器从事需要人的智能的工作的科学”一句话概括了人工智能研究的实质。人工智能一般被分为强人工智能与弱人工智能，强人工智能具有更为深度的学习能力，能够实现甚至超越人类的智力范围产生成果。弱人工智能则只能在有限范围复制和超越人类的能力[1]。从以往的技术来看，强人工智能的实现只是一种主观的想象，但2022年ChatGPT的研发让人们对人工智能的想象更加深入，人工智能的潜力似乎是极大的。互联网技术的发展极大地推动了人工智能技术的创新发展，如今的人工智能技术已经显现出高智能化、自主操纵、深度学习、深度拟人、跨界融合等特征。
2.2.“深度伪造”技术
3.人工智能刑事主体地位之否定
笔者支持否定论的观点，目前为止，强人工智能仅为一种主观臆想，是学者们对于强人工智能的发展预测，并没有充实的数据支撑，当然结论也难以成立。此外，“机器人”是研究者赋予人工智能的一种拟人化称谓，现实中并不存在所谓机器人，因为机器人既不是人也不是机器。“机器”没有处分意识，“机器不能被骗”是公认的事实。上述所谓不符合盗窃罪构成要件的观点，仅是先验地认为“盗窃只能秘密窃取”而得出的结论。
关于人工智能的刑事法律地位，我们应明晰以下几点：
1)明确利用缺乏“自由意志”的AI实施诈骗行为的责任主体。
责任能力的核心要素是自由意志，自由意志包括辨认能力和控制能力两方面。一个人拥有自由意志，意味着他的行为是“他自身”的产物，他是他行为的主人，并且对自己的行为有正确的社会意义的认识。目前AI的智能仅是一系列算法逻辑堆砌和运算的结果，其行为是在算法程序的驱动下实施的，它对自己的行为也无法作出理性甚至伦理价值的判断，缺少社会意义上的理解力。因此，它不具有自在自为的自由意志。不存在人格，更无法对其“行为”负责，故在法律地位上它仍旧是法律关系的客体。缺乏“自由意志”的责任主体并非法律惩罚的对象，故应当追究研发者、使用者的责任。
2)当AI具有行为控制能力但不具备责任承担能力时，实施诈骗行为的责任主体仍为研发者、使用者。
即便在未来人工智能也可以拥有自由意志，能够达到辨认和控制自己的行为的程度。它们也难以具备责任能力。因为责任能力不仅与自由意志因素有关，还与道德情感因素紧密联系。如果AI无法与人类一样具有道德情感，它们就不具有承担刑事责任的能力。因为没有道德情感的人工智能仍然是机器，对其施行刑罚是没有意义的，它们没有羞耻心与社会责任感，故无法理解刑罚的道德谴责意义，也不能感受到刑罚带来的情感谴责与痛苦。故此时的责任主体仍为研发者、使用者。
3)将来AI同时具备行为能力与责任能力时，实施诈骗行为应持“承认和限制”的立场。
目前的AI只是在人类编程和控制之内作出行为。现阶段还需要在法理上对人工智能体的“法律人格”、“自由意志”等问题作出合理的解释，在未来才能考虑在法律上赋予AI主体资格。由于AI技术是一把双刃剑，既可以造福人类，也会给人类带来风险，法律要去规制AI技术带来的犯罪问题，只需去追究AI研发者、使用者的责任，明确真正的犯罪主体。需要强调的是，未来AI同时具备行为能力与责任能力时，法律规范、法律制度所应体现的对于AI所可能具有的法律人格、权利、责任等的基本立场，应被总结为“承认和限制”，即承认AI在某些情形下可以被作为法律主体看待，享有相应的权利并承担相应的责任，但同时AI的法律主体资格，与自然人并不完全等同，当二者利益产生冲突的时候，应始终优先保障自然人的利益。
4.AI诈骗面临的刑事法律问题
在明确人工智能刑事主体地位之后，我们应该顺势思考AI诈骗可能涉及哪些犯罪。在AI诈骗案件中，行为人利用AI技术筛选被害人，利用换脸、拟声等技术冒充其亲友，获取被害人信任。行为人主观上以非法占有为目的，故意诈骗他人财物，客观上以假扮亲友、虚构事实的方法，骗取被害人数额较大的财物，使被害人产生认识错误并基于认识错误处分财产，造成被害人财产的损失，符合刑法典第266条之诈骗罪的构成要件。因此，利用AI技术进行诈骗无疑构成诈骗罪，除构成诈骗罪外，其手段行为与目的行为还涉及其他犯罪。
4.1.手段行为触犯侵犯公民个人信息罪、伪造身份证件罪
4.2.目的行为涉及帮助信息网络犯罪活动罪
5.人工智能时代AI诈骗的刑法干预限度
刑法面对人工智能犯罪这类新型犯罪，在利用刑法对其进行处罚的同时，也要注意干预的限度，过度干预可能会产生适得其反的效果。人工智能时代利用AI进行诈骗的社会危害性虽不容小觑，但刑法对于新类型犯罪应当保持一定的谦抑性，不能一味进行严厉打击。刘宪权等人也指出，人工智能时代数据信息的发展创新与价值创造本身就离不开对数据的获取与流通，如果刑法过多地干预数据的获取、收集过程，可能会阻碍数据创新与发展[10]。故笔者认为刑法可以分类型处理不同的AI诈骗犯罪。如上所述，AI诈骗一般因其手段行为与目的行为触犯刑法，手段行为一般为数据的获取、收集、存储过程，目的行为一般为数据的利用过程。刑法对于这两种不同类型的犯罪行为的应当采不同程度的规制。
5.1.谨慎认定数据获取、收集、存储过程中的犯罪
AI诈骗的手段行为一般为数据的获取、收集、存储过程，而信息数据的发展离不开数据的制作与传播。当今的数据共享时代，大多信息数据都可以通过网络合法获取，当然也有不少不法分子非法获取受保护的个人信息，但是刑法不能轻易将新兴技术所带来的弊端全部归于刑事犯罪领域，对于非法获取、收集、存储的行为应当慎重认定。如果刑法过度干预这一过程，必然会限制信息数据的创新与发展，与我国大力推动人工智能技术发展的政策相违背。但如果刑法适度对数据获取过程进行规制还有利于鼓励数据创新，维护网络运行秩序，推动社会信息数据的发展进步。大部分人获取数据只是为了资源共享以及日常学习或娱乐需要，这一过程也很难产生危害社会的后果。因此，为保护信息时代数据的获取与流通、促进信息数据的创新与发展、兼顾社会安全保障与数据发展进步[11]，刑法应当谨慎认定数据获取过程中的犯罪。
5.2.从严惩处数据利用过程中的犯罪
AI诈骗的目的行为一般为数据信息的利用过程，一般来说，对网络上获取的数据信息，在进行个人利用时一般应当进行加工或标明出处。如果仅仅是日常学习或娱乐需要对数据信息进行获取、存储，一般不会涉及刑法问题。但由于信息时代的发展，网络上公开的个人数据信息越来越容易获取，于是总有不法分子会利用这些数据进行不法活动，非法利用或者非法提供给他人。为了保障社会安全与行业发展秩序，刑法需要对此进行规制。而利用数据的这一过程一般不会影响到信息数据的流通，但这一过程又极易涉及数据的不法利用，故基于对技术使用环节中具有的社会危害性的考量，为打击利用非法利用数据危害社会的行为，应当从严惩处数据利用过程中的犯罪。
5.3.刑法面对中立技术应保持其谦抑性
6.结束语
参考文献
NOTES
3“深度伪造”(DeepFake)一词源于2017年美国红迪网发布伪造视频的作者的昵称，后发展为此项技术的名称。其含义为深度学习与伪造。
4参见2017年5月最高人民法院与最高人民检察院所颁布的《关于办理侵犯公民个人信息刑事案件适用法律的若干问题司法解释》。
5参见2021年6月22日最高人民法院、最高人民检察院、公安部联合发布的《关于办理电信网络诈骗等刑事案件适用法律若干问题的意见(二)》第6条。