乔通揭秘：AI鉴伪技术如何守护你的钱包？

乔通揭秘：AI鉴伪技术如何守护你的钱包？

引用

安全内参

等

11

来源

1.

https://www.secrss.com/articles/63541

2.

http://www.ce.cn/xwzx/kj/202501/27/t20250127_39279365.shtml

3.

https://m.amz123.com/ask/oDNjR1kD

4.

https://m.21jingji.com/article/20241016/herald/d70e4f18861df658092c613013f26afc.html

5.

https://36kr.com/p/2898952079940227

6.

https://www.stdaily.com/web/gdxw/2025-01/17/content_287521.html

7.

https://www.stdaily.com/web/gdxw/2025-01/24/content_290715.html

8.

https://blog.csdn.net/m0_69484557/article/details/139904672

9.

https://news.hangzhou.com.cn/shxw/content/2025-01/27/content_8850426.htm

10.

https://www.jfdaily.com/news/detail?id=845710

11.

https://www.enicn.com/Enicn/2025/article_0127/81939.html

近日，香港警方通报了一起震惊全国的AI诈骗案件：一家英国跨国企业的香港分公司员工，被骗子利用AI换脸和音频合成技术，冒充公司高管在视频会议中下达转账指令，导致2亿港币被骗走。这起案件不仅暴露了AI换脸诈骗的严重威胁，也凸显了传统鉴伪技术的局限性。

在第十三届中国创新创业大赛创新挑战赛（浙江）暨2024年浙江省技术需求“揭榜挂帅”大赛总决赛上，杭州电子科技大学网络空间安全学院副教授乔通展示了其团队研发的“面向电诈场景的音视频鉴伪溯源技术”。这一技术最大的创新在于变“被动检测”为“主动防御”，为AI鉴伪提供了全新思路。

乔通团队开发的核心技术是一种名为可扩展通用对抗性（SUA）水印的新型防御机制。与传统水印不同，SUA水印具有以下显著优势：

1. 通用性：以往的水印技术往往只能针对特定的伪造模型，而SUA水印无需基于所有伪造模型进行重新训练，具有更好的通用性和适应性。

2. 高效性：实验表明，SUA水印不仅能节省算力资源，还能有效扩展主动防御范围，显著提高鉴伪效率。

3. 破坏性：当受保护的素材被用于AI加工时，SUA水印会触发“引信”，直接破坏生成后的内容，从而阻止潜在的诈骗行为。

2024年9月，杭州公安通报了一起利用AI技术侵犯公民个人信息的案件，不法分子通过AI换脸突破头部平台的人脸认证系统。针对这类威胁，乔通团队开发的AI鉴伪系统已经展现出强大的实战能力：

• 秒级识别：系统能够快速识别出AI生成的图像和视频，并给出详细的分析报告。

• 高准确率：在实际测试中，该系统的准确率高达95%以上。

• 定制化服务：团队正与地方公安、小型金融机构等合作，研发定制化技术方案，特别为中小银行提供额外的安全防护。

乔通表示，人工智能鉴伪和深度伪造是此消彼长的关系，需要更多机构、企业参与，推动人工智能鉴伪技术突破和应用落地，共同搭建人工智能时代的网络安全防火墙。“我们团队正积极对接企业，探索商业化模式。”乔通说，“要筑牢人工智能安全底座，让反诈举措更加柔性。”

随着AI技术的不断发展，AI换脸诈骗等安全威胁也将持续升级。乔通团队的创新技术为我们提供了一个重要的启示：在AI安全领域，事前防御比事后鉴别更为关键。只有通过持续的技术创新和多方协作，我们才能真正构建起一个安全可靠的AI应用环境。