杭州公安教你用AI鉴伪技术防诈骗

杭州公安教你用AI鉴伪技术防诈骗

近日，杭州公安通报了一起全国首例利用AI大模型侵犯公民个人信息案，再次敲响了AI时代安全警钟。这起案件中，犯罪团伙使用境外AI大模型伪造活体视频，突破平台人脸认证，窃取用户隐私信息，涉案金额达十余万元。

面对日益猖獗的AI诈骗，杭州电子科技大学乔通团队开发出一种新型AI鉴伪技术——SUA水印，为防范AI诈骗提供了新的解决方案。

2024年2月，香港警方通报了一起震惊全港的AI诈骗案。一家英国跨国企业的香港分公司员工收到一封自称来自总部CFO的邮件，要求将公司资金转入香港本地账户。起初，员工对此表示怀疑，但随后的视频会议彻底打消了他的疑虑。

在视频会议中，员工不仅看到了熟悉的CFO，还有其他几位“同事”。他们要求员工进行自我介绍，并催促其尽快完成转账。信以为真的员工在5天内分15次向5个账户汇款共计2亿港币。直到他向英国总部求证时，才发现这一切都是精心设计的骗局。

这起案件与以往的AI换脸诈骗不同，骗子不再局限于一对一的伪装，而是通过伪造整个“高管团队”，大大提高了诈骗的可信度。他们利用Deepfake技术，仅需从公司YouTube视频等公开渠道获取素材，就能合成逼真的面部和声音，甚至能实时互动。

针对日益严峻的AI诈骗形势，杭州电子科技大学网络空间安全学院的乔通团队开发出一种名为“SUA水印”的新型AI鉴伪技术。

传统的水印技术只能针对特定的伪造模型，而SUA水印则具有可扩展性和通用性。它通过在预保护的视频、图像或语音素材中嵌入特殊水印，当这些素材被用于AI加工时，水印会直接破坏生成的内容，从而在源头上防止虚假信息的传播。

乔通介绍，SUA水印技术的最大优势在于其高效性和普适性。它不需要针对所有可能的伪造模型进行重新训练，在各种基准数据集上的实验验证下，能在消耗更少计算资源的前提下，有效扩展主动防御范围，显著提高主动防御效果。

与此同时，复旦大学、中电金信等机构也提出了多模态鉴伪方法（R-MFDN），通过身份驱动的对比学习提升模型的泛化能力。该方法在大规模IDForge数据集上实现了92.90%的高准确率，为AI鉴伪技术提供了新的思路。

尽管AI鉴伪技术不断发展，但作为普通公众，我们仍需提高警惕，掌握基本的防范技巧：

1. 保持冷静，不轻信：无论对方自称是官方机构还是熟人，都要保持冷静，不要被恐吓或紧急情况所迷惑。

2. 核实身份：对于任何要求转账或提供敏感信息的请求，都要通过正规渠道或直接联系当事人进行核实。

3. 保护个人信息：不随意泄露身份证号码、银行卡号、验证码等关键信息，设置复杂密码并定期更换。

4. 关注异常：如果发现应用软件有异常登录情况，及时清除并通知相关机构。

5. 定期检查设备：定期对手机、电脑等智能设备进行安全检查，谨慎使用具有信息采集、定位等功能的应用软件。

杭州公安提醒广大市民，面对自称政府或公安部门的来电，务必保持警惕，可通过官方渠道核实身份，避免泄露个人信息，谨防上当受骗。

AI诈骗是全社会共同面临的挑战，需要政府、科研机构、企业和公众共同努力。杭州公安和杭州电子科技大学的合作就是一个很好的例子。通过持续的技术创新和公众教育，我们才能在这场科技与犯罪的较量中占据主动，守护每个人的财产安全和个人隐私。

正如乔通所说：“化解相关矛盾，关键是要加固人工智能安全底座，让反诈举措更加柔性。”未来，随着更多机构和企业的参与，AI鉴伪技术必将得到更广泛的应用，为构建安全的数字环境提供坚实保障。