AI换脸和合成语音：揭秘新型诈骗套路

AI换脸和合成语音：揭秘新型诈骗套路

随着AI技术的发展，诈骗手段也在不断升级。AI换脸和合成语音技术的出现，让诈骗分子能够制造高度逼真的虚假视频和音频，给受害者带来巨大损失。本文将为您揭秘这些新型诈骗手段的原理，并提供实用的防范指南。

AI换脸技术的核心是深度学习算法。通过卷积神经网络（CNN）等技术，计算机可以分析源图像中的面部特征，并生成新的面部特征以适应目标图像。具体步骤包括面部检测、关键点提取、面部替换和融合等。由于视频是由连续的图片组成，因此只需要把每一张图片中的脸替换，就能得到变脸的新视频。

合成语音技术则主要分为三个步骤：文本处理、语音合成和音频输出。在语音合成阶段，计算机程序会根据输入的文本，结合预先训练好的语音模型和语音库，生成对应的语音信号。目前主要有基于规则的合成和基于统计的合成两种方法。基于统计的合成方法通过机器学习和统计模型来实现语音合成，能够生成更加自然流畅的语音。

2024年2月，香港警方通报了一起重大AI诈骗案件。一家英国跨国企业的香港分公司员工收到自称是总部CFO的邮件，要求将公司资金转到香港本地账户。虽然员工最初对此表示怀疑，但随后的视频电话会议让他彻底放松了警惕。在视频中，他不仅看到了“CFO”的面孔，还看到了其他熟悉的“同事”。最终，该员工分15次向5个账户汇款共计2亿港币，直到5天后才发现被骗。

2020年12月，某公司财务小王接到一个自称是“领导”的电话，要求立刻给供应商转款2万元。由于“领导”的口音十分逼真，小王在1小时内完成了转账，事后才发现被骗。类似案例在国外也屡见不鲜。2019年9月，英国一家能源公司高管接到假冒声音的电话后，将24万美元汇入了一个匈牙利账户。

面对日益猖獗的AI诈骗，我们该如何保护自己？公安部网安局提醒公众采取以下防范措施：

1. 多重验证，确认身份：在涉及钱款时，尽量通过电话询问具体信息，确认对方是否为本人。AI换脸难以肉眼区分，因此不要轻易相信视频或语音。

2. 保护信息，避免诱惑：加强个人信息保护意识，对于不明平台发来的广告、中奖、交友等链接提高警惕，不随意填写个人信息，以免被骗子“精准围猎”。

3. 相互提示，共同预防：做好家中老人的宣传防范工作。提醒老年人在接到电话、短信时，要放下电话，再次拨打家人电话确认，不要贸然转账。

此外，还可以通过以下方法识别AI合成的虚假视频：

• 观察眼睛：多数假脸都是使用睁眼照片合成，假脸极少甚至不会眨眼。
• 注意语音和嘴唇运动的同步状况：AI合成的视频可能存在不同步的情况。
• 情绪不符合：AI合成的面部表情可能与所说内容不匹配。
• 模糊的痕迹：AI合成的图像可能在边缘处有模糊或异常。
• 画面停顿或变色：AI合成的视频可能存在画面质量不稳定的情况。

我国已经出台了一系列法律法规，对AI技术的应用进行规范。2022年12月施行的《反电信网络诈骗法》加强了预防性法律制度构建，加大对违法犯罪人员的处罚力度。2023年1月施行的《互联网信息服务深度合成管理规定》明确要求，提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

在技术防范方面，各地也在积极探索。例如，福州移动开发了AI外呼智能化系统，通过智能筛选和研判，协助公安部门打击诈骗活动。该系统已协助公安机关完成181个重要线索核查，打击人数170余人次，缴获设备70余台。

AI技术是一把双刃剑，既能为我们的生活带来便利，也可能被不法分子利用。只有通过技术、法律和社会各界的共同努力，我们才能在这场“科技与犯罪”的博弈中占据上风。