深度伪造威胁金融安全，新型主动防御技术显身手

深度伪造威胁金融安全，新型主动防御技术显身手

引用

安全内参

等

8

来源

1.

https://www.secrss.com/articles/67757

2.

https://github.com/caoygx/my_lib/blob/master/b.txt

3.

https://www.secrss.com/articles/67417

4.

https://twsf.ntsec.gov.tw/tisf/2024/index.html

5.

https://www.xhby.net/content/s67358c6ae4b033844ab1a4c5.html

6.

https://www.dingxiang-inc.com/blog/post/824

7.

https://www.acamstoday.org/combating-ai-backed-financial-crime-with-ai-sc/

8.

https://www.dingxiang-inc.com/blog/post/826

2024年2月，一起震惊全球的AI诈骗案件在港发生：黑客利用深度伪造技术，成功冒充某跨国公司高管，在视频会议中指示香港分公司转账2亿港元。这起案件不仅暴露了AI换脸技术带来的安全威胁，更凸显了金融机构在面对新型AI诈骗时的脆弱性。

深度伪造技术，源自于深度学习领域的生成对抗网络（GAN），最初被应用于影视制作、广告创意等领域。然而，这项技术很快被不法分子盯上，成为实施金融诈骗的新工具。

德勤最新报告显示，深度伪造攻击正以惊人的速度增长。2023年，此类攻击暴增3000%，预计2024年将再增加50%-60%。到2027年，相关损失将从2023年的123亿美元飙升至400亿美元，复合年增长率高达32%。银行和金融服务行业首当其冲，成为最受威胁的领域。

面对日益严峻的威胁，传统的被动检测方法显得力不从心。这类方法通常在虚假内容生成后才进行识别，难以阻止其传播和造成的损害。而且，随着AI生成内容的质量不断提升，被动检测的准确率也在下降。

为应对这一挑战，杭州电子科技大学乔通团队开发了可扩展通用对抗性（SUA）水印技术。这种新型水印可以嵌入到需要保护的视频、图像或语音素材中。一旦素材被用于AI加工，SUA水印就会触发并破坏生成内容，从而实现事前防御。

与传统水印相比，SUA水印具有两大优势：

1. 通用性：无需针对每种伪造模型重新训练，一个水印就能防御多种攻击
2. 高效性：大量实验证明，SUA水印不仅能节省算力，还能显著提高防御效果

除了采用新技术，金融机构还需要建立多层次的防御体系：

1. 加强活体检测：在人脸识别环节增加核验机制，提高识别精度
2. 限制模型能力：对AIGC模型的功能和访问权限进行严格管控
3. 安全沙箱：在隔离环境中运行可疑内容，防止恶意代码扩散
4. 员工培训：提高员工对AI诈骗的警觉性和识别能力

面对AI安全挑战，单靠个别机构的努力是远远不够的。需要政府、企业、研究机构和国际社会共同努力，建立统一的安全标准和协作机制。只有这样，才能真正构建起抵御AI诈骗的坚实防线，保护金融机构和公众免受其害。

正如乔通副教授所说：“要筑牢人工智能安全底座，让反诈举措更加柔性。”这不仅是技术问题，更是关乎整个社会安全的重要课题。随着AI技术的不断发展，我们期待看到更多创新解决方案的出现，共同守护金融安全这一重要防线。