用一张照片就能骗走你的钱？拆解“AI换脸”诈骗套路
2024-06-1716:47
随着人工智能软件普及，“AI换脸”“AI合成照片、视频”等技术越来越多地出现在网络里，“AI”造假花样越来越多，一些不法分子将新技术用于非法的目的，让犯罪手段又有了新方式。
“一键去衣”！
深度伪造近七千张淫秽图片
一名被警方抓获的犯罪嫌疑人白某某原本是一家互联网公司的技术员，他因为使用AI去衣技术，制作、贩卖淫秽物品而涉嫌犯罪。
北京市海淀区人民检察院检察官助理郭树正：白某某用的这款人工智能软件，能很快对被害人的图片“一键去衣”，基本上几秒钟、几分钟就能批量生成相应的图片。
警方在白某某家的电脑里，查获了大量的涉案照片，都是经过“一键去衣”技术处理的。
随后，白某某因涉嫌制作、贩卖淫秽物品牟利罪被公诉至法院。今年4月19日，北京市海淀区人民法院对这起案件进行了开庭审理。
公诉人：其对含有人脸信息的众多不特定女性照片进行侮辱性编辑并出售，图片数量多，涉及人数多，社会公众利益受到严重损害。
那么，这些经过去衣的照片的受害者都是什么人？白某某为什么要制作这些照片呢？他又是如何进行牟利的呢？
2023年6月，家住北京的白某某在境外的社交媒体上接触到了这项“一键去衣”的技术，于是他动起了歪心思，打算利用这项技术来赚钱。
那么，“AI去衣”究竟是怎样的一种技术呢？据白某某供述，这项技术并不是真的“去衣”，而是一种伪造、重绘的技术。
郭树正：其实我们可以把它理解为深度的图片伪造，它并不是真的去掉别人照片上的衣服，其实都是针对已有的模型和已有的模组进行图片重绘。
而且，这项技术操作起来十分简单，去衣只需要一键就能完成，因此白某某定价不高，一张照片只需要1.5元，却可以利用低价吸引更多的订单。
郭树正：其中有让白某某去学生、教师、女同事等衣服的图片。根据我们调查，白某某在这个过程中，他其实是知道可能会有人拿这个图片实施违法犯罪行为，比方说敲诈勒索，或者继续传播对被害人的名誉造成一定的损失，或者实施一些其他更恶劣的犯罪行为。
检察官介绍，白某某使用的实际上是一个正规的AI绘图软件，而“去衣”只是其中的一个功能模块。白某某自以为发现了其中的商机，实际上却把自己送到了法庭里被告人的位置上。
涉嫌制作贩卖淫秽物品牟利罪被提起公诉
郭树正：非法进行加工和利用，加工利用之后又通过各种非法途径传播，导致本来是为我们服务，为科技进步发展提供帮助的一项技术，变成了犯罪的工具。
侵犯不特定女性名誉破坏网络环境
检察机关认为，白某某利用AI技术犯罪的行为不仅侵犯了无数无辜者的隐私与名誉，还破坏了网络环境的纯净，与科技向善的精神相背离。而利用新技术犯罪，也将受到司法机关的严厉打击。
公诉人：人工智能技术兴起之后，已经成为当今科技领域备受瞩目的技术之一，正在深刻改变我们社会、经济以及生活方式，为社会带来更多的便利。同时我们也打击治理运用AI技术实施犯罪，任何利用新技术实施犯罪的行为必将受到严惩。
“换脸”伪造不雅照
实施敲诈勒索
一键去衣、AI换脸技术，还会被不法分子利用，成为敲诈勒索的工具。近期，这类案件又有抬头趋势。前不久，深圳警方打掉一个团伙，这个团伙从网上等各种渠道收集被害人图片信息，然后进行合成处理，用来敲诈勒索。
前不久，深圳市民吴先生突然收到一个陌生手机号码发来的彩信，点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。
当事人吴先生：当时我收到一条彩信，里面是我的一张裸照，他当时威胁我，在几点之前要跟他联系给他转钱，我当时一想不对劲，就报警了。
深圳警方接到报案后，立即对吴先生提供的线索进行侦查。通过梳理报案记录，警方发现全市有同样遭遇的不止吴先生一人，犯罪嫌疑人的敲诈勒索方式都如出一辙。
当事人邓先生：内容就是有我的照片，我旁边还有女的，还写我的名字。我还问我的同事，我同事说这肯定是别人复制上去的。
于是警方立即对相似的案件进行串并处理。调查后，一个通过换脸技术合成不雅照，实施敲诈勒索的犯罪团伙逐渐浮出水面。
深圳市公安局坪山分局民警张威：经调查，这个团伙流窜作案，以“已掌握你在外面找小姐”“艳照将公之于众”等方式进行威胁，进而逼迫受害人“破财消灾”，从而达到敲诈勒索的目的。
团伙分工明确：有人修图、有人寻作案目标
在犯罪嫌疑人的电脑里，警方发现了大量经过合成换脸后的不雅照片。
目前，王某等人已被检察机关提起公诉。案件正在进一步审理当中。
深圳市公安局刑警支队民警程儒：如果遇到这种以换脸的方式实施敲诈勒索的行为，请及时报警。我们公安机关会依法严厉打击这种违法犯罪，在案件办理过程当中严格保护当事人的个人隐私。
以合成照威胁受害人
并准确说出个人信息
在山东威海，也有当事人遭遇到骗局，在收到伪造的不雅照后，没有多加核实，就向敲诈团伙转账20万元。
前不久，威海警方接到了反诈中心的一条资金预警信息，有市民正在向涉诈账户进行转账，民警立即与当事人取得联系，核实情况。
然而，先后转账的20万元，根本满足不了对方的胃口。正当王先生惊慌失措时，民警联系到了王先生。
刘羿：当我们跟王先生一同看这张照片的时候，我们发现虽然脸部有相似的地方，但是他的脸型以及身形完全不是他本人。
之后，民警赶紧通过国家反诈大数据平台对王先生转账的两个银行账户进行紧急止付操作。
刘羿：平台对我们止付的这两个账户进行反馈，反馈出账户的余额以及银行卡的卡主身份等等情况。我们发现这两个账户的余额已经显示为0，所以我们紧接着就对这两个账户进行分析研判。
经过研判分析，警方锁定了犯罪嫌疑人郑某和钟某的身份信息。今年1月22日，威海警方赶赴浙江乌镇将两名犯罪嫌疑人抓获归案，为王先生挽回了损失。