今年是AI人工智能技术爆发的大年，AI产品已应用于多个领域。但令人颇感意外的是，AI技术竟成了诈骗分子的利器，被骗子玩出各种花样，防不胜防。
那么，如何打好与AI诈骗的攻防战？如何用AI技术反AI诈骗？
9分钟给骗子打款430万元
基于视频聊天见过“真人”的前提下，郭先生没有多想，于11时49分先后分两笔，将430万元打给对方。
据“平安包头”发布，郭先生称，“当时打了视频，在视频中也确认了面孔和声音，所以才放松了戒备”。
郭先生赶紧报警，并通过警方查询得知涉案的银行卡为包头市蒙商银行对公账户，随后立即向包头警方请求协助紧急止付。
无独有偶。
随着人工智能技术的发展，AI应用逐步落地。但出人意料的是，利用AI技术的诈骗分子竟然成为首批吃螃蟹的人，而且，从目前的案例看，AI换脸诈骗成功率十分高，令人防不胜防。
5月24日，中国互联网协会发布公告称，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。
AI骗术有哪些花样？
第五空间信息技术研究院院长谈剑锋告诉中国新闻周刊，从技术原理上看，AI换脸及拟声技术本质上是对人脸、声音等生物特征信息二次加工利用，一般可从已知的数据中提取关键特征，通过深度学习算法进行模拟运算，最终生成逼真的图像和语音，这也是近年来人工智能技术的重要成果。
而这样的前沿技术，却被诈骗分子应用于多个场景。
综合已发生的诈骗案件来看，当前AI诈骗主要有变声、换脸、自动应答等几类手段。
AI换脸诈骗中，诈骗分子利用AI技术，通过合成视频或照片来“以假乱真”，诈骗对象几乎无法辨别。
谈剑锋表示，当今AI换脸技术花样百出，只靠一张正面照片就能“脑补”出讲话、运动等连续动作，也能实时捕捉真人动作“替换”脸部特征。前者可利用最少的输入信息实现一些规定动作，而后一种技术能在视频交流中保持场景不变，只是将面部特征替换成另一个人脸图像中的面部特征，面部表情相对较为自然，也更具有欺骗性。
奇安信安全专家裴智勇告诉中国新闻周刊，仅仅通过换脸，诈骗分子就能演绎出换脸欺诈、换脸敲诈等多种骗术，比如将一个人的脸换到一段不雅照片或视频上，之后威胁对方。
如何反AI技术诈骗
不过，AI诈骗并非毫无破绽。
谈剑锋表示，诈骗分子使用的AI换脸工具众多，背后技术复杂度、所获取人脸质量和数量、算法和模型选择等存在差异，缺陷也不尽相同。但正所谓李鬼不是李逵，通过特定动作及耐心观察，识别破绽仍然有规律可循。
以AI换脸为例，这一技术仍然有一些缺陷。
一般来说，由于脸部特征数据精确采集并不容易，多数使用正面证件照片进行模拟替换，有些假脸眨眼的频次明显少于正常人，甚至不会眨眼，同样张嘴也是如此，动作可能也非常生硬，纹理也不自如，因此可以通过观察眨眼、张嘴、转头等动作来大致判断真伪。
另外，由于AI换脸技术需要一定的算力，因此增加场景的复杂性或者突然增加不规则物体，例如要求在脸部晃动手指或者某个不常见物体，假脸就可能出现跳动或变形，从而让换脸术失效。
“必须提高技术门槛，更好地防止AI诈骗”，裴智勇告诉中国新闻周刊，在AI诈骗的背景下，各类人脸识别系统、人脸数据存储系统，都有可能成为攻击者批量盗取人脸数据的目标。
因此，各种基于人脸识别技术的验证系统必须不断提升自身安全水平，还应研发多种能够与人脸识别技术相互配合、更加安全的辅助验证技术，如大数据分析技术、用户行为特征分析技术等，目的是在不增加用户负担的情况下，提升攻击者的攻击门槛。
与此同时，裴智勇认为，在社交网络流行的情况下，人脸等个人信息很容易扩散，这就使我们不得不面对一个现实：“眼见也未必为实”，个人需要切实提高安全防范意识。
形成强大高压震慑态势
“人工智能教父”杰弗里·辛顿今年初警告，人工智能可以辅助人类做一些繁复和创意性工作，但也很可能有不法之徒用它来做违法之事，毕竟虚假图像、视频的破坏力远大于单纯的文字。
谈剑锋认为，由于人脸等属于唯一性、不可再生性的生物特征信息，AI换脸诈骗不仅让个体遭受较大的损失，而且能极大程度混淆身份信息，甚至可能令社会信用体系走向崩溃。
“新技术是一把双刃剑，在造福人类的时候，也易被非法利用，必须加强监管，”北京索朗律师事务所韩利律师向中国新闻周刊表示。
针对技术监管，裴智勇强调有三方面要格外重视：一是在安全要求较高的系统中，应当限制人脸、语音等不安全的验证方式的使用；二是对于掌握大量人脸信息、语音数据的机构，包括政府和企业，应当要求其不断提升网络安全建设水平，避免信息被窃取和泄露；三是研究基于人工智能的视频鉴伪技术，在必要时刻使机构和公众有能力借助工具进行鉴伪。
今年4月11日，国家网信办起草《生成式人工智能服务管理办法》（征求意见稿），提出AI内容必须真实准确，禁止非法获取、披露、利用个人信息和隐私、商业秘密。
为此，他建议，对数据买卖的“黑灰产”做到露头就打；设立“数据银行”这类新型数据基础设施来统一保护生物特征等数据。
从执行层面看，在本次郭先生被骗案件中，福州、包头两地联手行动，在多部门的配合下，成功紧急止付涉嫌诈骗资金330多万元。
对此，韩利表示，联合执法是遏制与防范AI诈骗的重要探索，通过警方、网信、金融、学校等部门广泛参与，在打击诈骗与宣传引导上不断发力，形成强大高压震慑态势，逐步遏制AI技术诈骗犯罪行为。