AI换脸诈骗猖獗，浙大实验室教你防骗

AI换脸诈骗猖獗，浙大实验室教你防骗

近日，香港警方通报了一起震惊全国的AI换脸诈骗案：一家英国跨国企业的香港分公司员工，被骗子用伪造的「AI换脸」和AI音频合成的视频内容，冒充总公司的CFO，直接骗走了2亿港币！这起案件不仅涉案金额巨大，更揭示了AI换脸诈骗正在向更高级、更隐蔽的方向发展。

这起案件中，骗子不再满足于一对一的换脸，而是伪造了一个完整的"高管团队"。通过Deepfake技术，他们不仅替换了CFO的面容和声音，还同时替换了其他"同事"的形象，让整个视频会议看起来毫无破绽。这种多人换脸的技术突破，使得诈骗的成功率大幅提升。

更令人担忧的是，实施这种高级别的诈骗所需的技术门槛并不高。据专家介绍，只需要通过公开的YouTube视频和其他媒体素材，就能训练出足以以假乱真的AI模型。这意味着，任何一家公司的高管团队，都可能成为这种技术的受害者。

面对日益猖獗的AI换脸诈骗，浙江大学区块链与数据安全全国重点实验室推出了视觉深度伪造检测平台DFscan。该平台通过自研算法和大规模数据底座，实现了对图像和视频的精准检测，能够有效识别AI生成的虚假内容。

DFscan平台的核心优势在于其泛化性和鲁棒性。平台收集了15个公开的伪造和真实数据集，部署了20多种常见伪造算法，并构建了千万级的自建图像/视频伪造数据库。通过场景化数据增强体系，平台能够模拟真实场景中的各种干扰因素，提升检测器的实战性能。

在算法层面，DFscan采用了多模态融合检测技术，能够同时分析图像的多个特征维度。平台还具备伪造区域定位和特征可视化功能，可以直观地展示图像中被篡改的部分，为用户提供了全方位的检测报告。

尽管AI换脸技术越来越逼真，但专家指出，通过一些细节仍然可以识别出破绽。中国网络空间安全协会人工智能安全治理专委会专家张博建议，可以从以下几个方面进行观察：

1. 面部轮廓：AI生成的图像在面部轮廓处可能会出现模糊或不自然的情况。在视频通话中，可以要求对方做出大幅度的头部动作，观察面部轮廓是否出现异常。

2. 光线效果：AI合成的图像往往难以完美还原真实的光线效果。注意观察面部的光影是否自然，是否有明显的拼接痕迹。

3. 微表情：AI虽然可以模仿面部表情，但在一些细微的表情变化上仍可能露出破绽。特别是一些复杂的表情，如微笑时眼角的皱纹等。

4. 声音同步：虽然AI可以合成逼真的声音，但声音和口型的同步往往难以做到完美。注意观察口型和声音是否完全吻合。

此外，专家还建议建立财务信息防火墙，对于涉及资金转账的要求要格外谨慎。不要轻易相信各类APP传来的视频、电话或短信，必要时可以通过其他渠道进行二次验证。

面对AI换脸技术带来的挑战，我国已经出台了一系列法律法规进行规范。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规，对AI生成内容的使用和传播进行了严格约束。

国家网信办正在征求意见的《人工智能生成合成内容标识办法》，将进一步加强对AI生成技术的监管。该办法要求AI服务提供者必须对生成内容进行标识，确保用户能够清晰区分真实与合成内容。

专家提醒，虽然AI换脸技术在娱乐领域有广泛应用，但未经允许使用他人肖像进行合成，可能构成对肖像权的侵犯。根据《民法典》，任何组织或个人不得通过AI换脸等技术手段伪造他人肖像并进行传播。违反者可能面临民事赔偿，情节严重的还可能承担刑事责任。

AI换脸诈骗的威胁日益严峻，但通过技术防范和法律规范，我们完全有能力应对这一挑战。公众需要提高警惕，增强防范意识，同时也要相信，随着技术的进步和法律的完善，AI换脸诈骗终将无处遁形。