??“你的图很好,但下一秒就是我的了。”
??在如今的互联网时代,眼见不一定为实。部分不法分子利用科技盗取他人照片,建立包装出一个更有社交优势的虚假人设,利用此进行社交乃至诈骗行为,这种“假人设”行为的主要表现:
??如果以上“假人设”行为无法得到治理,将导致社交平台上不真实的内容泛滥,以及由于部分“假人设”行为目的不纯,更可能导致骗炮、杀猪盘等恶劣行为滋生,引发用户不安全感,降低用户对平台内容的信任度。
??今年以来,国家网信办实施“清朗”系列专项行动,严厉打击网络生态中的突出问题。Soul?App积极响应国家倡议,履行了其作为平台的社会责任。为进一步净化网络环境,Soul?App生态风控团队建立专项小组,针对“假人设”问题进行分析,在“假人设”的治理策略中,全新推出“瞬间假人设风险提醒”功能。
??从全站到全网,图片识别再升级
??图片已成为“假人设”诈骗的主要工具,其中不乏涉及人像、财产、身份等敏感内容。此前,Soul?App已推出图片查重功能,帮助网友能更好地辨别内容真实性,一度引发网络热议,该功能可针对高风险图片进行预警——
??当系统检测到图片在站内有重复使用时,会立即提示用户“系统识别该图片曾在站内出现过”,这样的即时提醒有助于用户快速识别潜在的虚假身份,有效遏制不实信息的扩散,进而规避经济上的损失。
??而随着“瞬间假人设风险提醒”功能的上线,Soul?App也对图片识别模型进行升级,由之前的只能识别站内图片,升级为全网图片识别,大幅提升了识别范围和准确性,提醒话术相应更新为:“请注意甄别信息真伪,避免上当受骗。”
??即便是站外盗图,在Soul上也会被一眼识破
??若在私聊场景中,系统会直接提示:您的聊天对象可能存在虚假人设情况,请保持警惕
??升级后的图片识别技术,已超越了单一的站内重复性检测。通过融合图片格式分析、历史行为追踪、图库比对等多种维度的技术,结合先进的人像识别算法,Soul?App的风控团队目前已能精确评估出图片人像的真实性。全自动化系统能够高效识别和处理站内的盗图问题,从而显著提升对站内虚假图片和盗图行为的管理能力。
??风控模型升级,精准识别假人设
??真的假不了,假的真不了。“假人设”既然为假,便总有露出马脚的时候。Soul?App的风控模型已具有全维度的监控能力,包括且不限于私聊、发帖或各个公域场景中图片、语音与文字内容的识别。
??针对各大社交平台上频发的“假人设”现象,如假冒‘警察’、‘离异带娃’等身份,Soul?App迅速识别并锁定可能存在风险的用户群体,通过多维度的考察方法,包括但不限于:年龄及地理位置的异常、人设的可疑性、高危职业身份、潜在的受害者特征、网络图片盗用等,风控模型将对这些指标进行重点持续监控,以确保平台环境的安全性和真实性。
??准确率超95%,治理工作成效显著
??一直以来,Soul不懈追求和推动真诚社交的理念。平台相信,社交的本质在于人与人之间真实、坦诚的交流与连接。为了实现这一愿景,Soul不断投入资源和技术创新,旨在打造一个安全、可靠且富有温度的社交平台。通过引入先进的人工智能技术,加强风控策略与内容审核,确保用户在Soul上的每一次互动都是基于真实的身份和真诚意图,让虚假无处遁形。