AI深度伪造：新型网络诈骗利器？

AI深度伪造：新型网络诈骗利器？

近年来，AI深度伪造技术被犯罪分子用于电信诈骗，引发了广泛关注。通过深度伪造技术，犯罪分子可以制作高度仿真的视频和音频，假冒熟人、知名人士甚至创建虚假账户进行诈骗。例如，内蒙古包头市发生的一起金额高达430万元的诈骗案件，正是利用AI换脸技术得手的。此类技术因其易得性强、成本低、仿真度高等特点，使得电信诈骗的危害性更强、数额更大。面对这一新型网络诈骗利器，我们需要加强技术和法律手段，防止AI技术被滥用。

AI深度伪造技术，本质上是一种特殊的深度学习技术。最初源于一个名为「deepfakes」的Reddit用户。该用户于2017年12月在 Reddit 社交网站上发布了将斯嘉丽·约翰逊等女演员的换脸视频，使得「Deepfake」成为了AI「AI换脸」的代名词。

Deepfake目前并没有公认的统一定义。美国在其发布的《2018年恶意伪造禁令法案》中将「deep fake」定义为「以某种方式使合理的观察者错误地将其视为个人真实言语或行为的真实记录的方式创建或更改的视听记录」, 其中「视听记录」指图像、视频和语音等数字内容。

其核心原理是利用生成对抗网络或者卷积神经网络等算法将目标对象的面部「嫁接」到被模仿对象上。因为视频是连续的图片组成，因此只需要把每一张图片中的脸替换，就能得到变脸的新视频。首先将模仿对象的视频逐帧转化成大量图片，然后将目标模仿对象面部替换成目标对象面部。最后，将替换完成的图片重新合成为假视频，而深度学习技术可以使这一过程实现自动化。

随着深度学习技术的发展，自动编码器、生成对抗网络等技术逐渐被应用到深度伪造中。Deepfakes依赖于一种称为自动编码器的神经网络。它们由编码器和解码器组成，编码器将图像减少到较低维的潜空间，解码器从潜表征中重建图像。图源：深度伪造的原理及实战 Deepfakes通过使用通用编码器将人编码到潜在空间中来利用这种架构。潜表征包含有关其面部特征和身体姿势的关键特征。然后可以使用专门针对目标训练的模型对其进行解码。这意味着目标的详细信息将叠加在原始视频的底层面部和身体特征上，并在潜空间中表征。图源：深度伪造的原理及实战 另一种制作深度伪造品的方法是使用所谓的「生成对抗网络」（Gan）。Gan让两种人工智能算法相互竞争。第一个算法称为生成器，输入随机噪声并将其转换为图像。然后，该合成图像被添加到真实图像流（例如名人图像）中，这些图像被输入到第二个算法（称为鉴别器）中。起初，合成图像看起来一点也不像人脸。但重复这个过程无数次，并提供性能反馈，判别器和生成器都会得到改进。如果有足够的周期和反馈，生成器将开始生成完全不存在的名人的完全逼真的面孔。

2024年2月，香港发生了一起震惊全港的AI换脸诈骗案。一家英国跨国企业的香港分公司，被骗子用伪造的「AI换脸」和AI音频合成的视频内容，冒充总公司的CFO，直接骗走了2亿港币！

最高级的骗局，往往只需要最朴素的AI技术。据称，这位香港分公司的员工收到了一封英国总部CFO的邮件，称总部正在计划一个「秘密交易」，需要将公司资金转到几个香港本地的账户中待用。而这个员工一开始并没有相信这封邮件的内容，认为是钓鱼诈骗邮件。但是骗子不断给他发邮件讨论这个秘密交易的必要性，最终，给他拨打一个视频电话。

在电话中，这位员工看到了公司的CFO和其他他认识的「几位同事」，大家都在一起开会。骗子还在视频会议中要求这位员工进行自我介绍。然后视频会议中的「英国领导」要求他赶快进行转账，之后就突然中断了视频。而信以为真的员工就分15次向5个香港本地的账户陆续汇款了2亿港币的资金。而在整个事件持续5天之后，他才回过味来，向英国公司求证，最终发现被骗了。

香港警方在通报中称，以往的「AI换脸」诈骗，一般都是一对一的。这次骗子用视频电话会议的形式，伪造了一个「高管团队」，让可信度大幅上升。骗子使用Deepfake技术，通过公司的Youtube上视频和其他公开的媒体素材，就成功伪造了英国公司高管的形象和声音。参与视频会议的都是真人，然后通过「AI」换脸，把骗子的脸和声音都换成了对应的高管的脸和嗓音，下达了转账的指令。而除了受骗的这一名员工之外，骗子还联系了另外几位香港分公司的员工。

警方表示，整个案件还在进一步调查之中，还没有逮捕任何嫌疑人，但是希望向公众发布消息，防止骗子通过类似的手法再次得手。

面对日益猖獗的AI深度伪造诈骗，我们该如何防范呢？安全专家给出了以下建议：

1. 提高警惕：对于涉及金钱交易的请求，一定要保持高度警惕。特别是通过网络或电话进行的交易，更要谨慎。

2. 验证身份：在进行重要交易前，可以通过电话、视频等多种方式验证对方身份。如果条件允许，最好当面确认。

3. 设置安全词：与家人或重要联系人约定一些只有双方知道的安全词或暗号，定期更换，以确认对方身份。

4. 关注异常细节：注意视频通话中可能的异常，如画面模糊、面部表情僵硬等，这些可能是深度伪造的迹象。

5. 使用多重验证：对于重要账户，启用多重验证机制，增加安全性。

6. 关注最新动态：了解AI深度伪造技术的最新发展和诈骗手法，提高防范意识。

在技术层面，研究者正在开发更先进的检测方法。例如，加州大学河滨分校的计算机科学家团队开发了一种名为「表达操纵检测」（EMD）的新方法，可以以高达99%的准确率检测深度伪造视频。

在法律层面，各国政府也在积极应对这一挑战。美国已通过《2018年恶意伪造禁令法案》，对深度伪造内容进行严格监管。中国也在加强相关立法，明确禁止利用AI技术进行诈骗等违法犯罪活动。

AI深度伪造技术是一把双刃剑，既带来了技术创新，也带来了新的安全挑战。面对这一挑战，我们需要在享受技术便利的同时，保持警惕，加强防范。只有这样，我们才能在AI时代安全地享受科技带来的便利。