2022年12月1日起，《中华人民共和国反电信网络诈骗法》正式实施。该法规定，电信、银行等机构必须不断提高研究电信网络诈骗反制技术，用于检测异常信息活动，同时要求互联网公司做好风险防控特别义务和保护收集到的信息。
图源央视新闻
近年来，随着信息技术快速发展，以电信网络诈骗为代表的新型犯罪持续高发，诈骗技术与手段不断迭代，让人防不胜防。面对AI变声与AI换脸等技术的被滥用，如何防治也是一大难题。人工智能技术被滥用难免令人担忧，但有错的并不是技术。我们需要看到，当下，AI仍是全民反诈路上不可或缺的技术之盾，同时，法律之剑的协同治理，同样是抵御AI技术被滥用，为反电信网络诈骗工作保驾护航的重中之重。
诈骗手段的迭代：技术被滥用
公安部数据显示，2021年全国破获电信网络诈骗案件数量44.1万件，涉案金额达到3291亿。电信诈骗往往是跨国有组织犯罪，且呈现出新技术支撑、集团化运作、精细化分工等犯罪特征，并且犯罪分子利用不同国家地区反诈治理的“木桶效应”，不断向反诈治理水平更低的国家和地区转移。
近年来，许多不法分子借助元宇宙、AI智能、GOIP、远程操控、共享屏幕等热点词汇与新概念，基于迅猛发展的深度合成技术，通过对人脸、声音等个人隐私敏感信息的深度伪造（deepfake）等技术的滥用，使电信网络诈骗的防范治理工作变得非常艰难。
在净网2021专项行动中，南通警方就曾破获了一起AI人脸识别诈骗案件。该犯罪团伙主要利用AI软件伪造人脸识别认证来解绑用户账号，再以低廉的价格将账号卖给下游的诈骗份子，从而非法牟利。
图源网络
AI变声技术，不仅让说话的声音达到了真人水准，甚至还能模仿真人的情感和语调，自动说出全新的语句。除了能够利用神经网络对原始音频进行建模和模仿之外，AI还能够分析本人的社交网络，很快掌握个性化的说话方式、与周围人的关系、兴趣爱好等等，从而模仿你与身边的人自然地交流。
换脸、变声，AI“过滤”——算法筛选受骗对象，搜集并且分析受骗者信息，让受骗者放下了最后一道心理防线。愈发频繁的AI诈骗事件引发了人们对AI技术被用于犯罪的担忧。
用魔法打败魔法：AI反诈之盾不可或缺
在不明确技术泛滥后果的前提下，合理地释放技术成果也成为一些科技企业的选择。比如OpenAI曾推出的性能更高的无监督语言模型GPT-2，就没有按照行业惯例进行开源，只发布了简化版，不发布数据集、训练代码以及模型权重，目的就是避免AI技术被人恶意利用。
（人工智能检测和防护网络安全的四大技术应用图源《电信网络诈骗治理与人工智能应用白皮书》）
面对网络诈骗的复杂性和挑战性，2019年，有互联网科技公司通过推出基于人脸搜索、人脸属性提取、语音识别和OCR识别的深伪检测平台，实现“用AI来对抗AI滥用”的解决思路。2021年，有互联网公司凭借全链路智能风控体系“IMAGE”，通过AI系统提供的风险感知、攻防对抗和主动交互劝阻能力，让诈骗案件量及欺诈资损下降约4成，AI机器人日均预警约50万人次。
与此同时，银行等金融机构也积极利用人工智能、隐私计算等技术构建反诈的“防御体系”。以中国工商银行为例，截至2022年6月末，工行通过自主研发的大数据风控智能服务平台，累计拦截电信诈骗风险交易近50万笔，为客户避免资金损失超过117亿元。
未来，这场用“魔法打败魔法”的AI反诈防御之战，仍将会是反电信网络诈骗工作中强而有力的突破点。
法律利剑协同反诈
除了从技术研究开发上与骗子们斗智斗勇，法治建设领域也正在加强对反诈的防范治理。2019年，在十三届全国人大二次会议上，人工智能方面立法项目，如数字安全法、个人信息保护法等，已经被列入立法规划，同时被列入抓紧研究项目。《民法典人格权编》（审议稿）中也存在着加强人工智能技术法律规制等条文，对肖像权、声音保护等都将受到更加明确的规范，以应对人工智能的潜在安全风险。
以往关于电信网络诈骗的立法规定较为分散，存在对电信网络诈骗犯罪行为精准打击不足的问题；另一方面，对电信网络诈骗犯罪行为不能仅立足于事后打击惩治，更应重视源头预防，实现标本兼治的效果。
结语
全民反诈的背后，是数字时代风险对当下的法治安全与公民利益的挑战。技术是把双刃剑，硬币也有两面，但若是“好”的一面用得好的话，不仅能给我们带来安全可靠的保障，还能提供更为便捷高效的服务。
责编：方钰洁监制：李红梅
1.《反电信网络诈骗法今起实施，你读懂了吗？》光明网
2.《当AI成为一把诈骗利刃？别急，它同样是反诈的一把好手！》清元宇宙
3.《从实体经济到网络安全，看AI护航数字经济》中国信息安全
4.《电信网络诈骗治理与人工智能应用白皮书（2019年）》中国信通院