深度伪造技术：真相还是谎言？

深度伪造技术：真相还是谎言？

引用

搜狐

等

14

来源

1.

https://www.sohu.com/a/764633401_257199

2.

https://zhuanlan.zhihu.com/p/683169392

3.

https://www.21jingji.com/article/20240909/herald/dc9d575b9e9b8c276e68b1ca4f5871e3.html

4.

https://finance.sina.cn/usstock/mggd/2024-02-16/detail-inaieyak9227766.d.html

5.

https://docs.feishu.cn/v/wiki/QK7WwXWmpigrx3kmxgNcJN65n5i/ai

6.

https://docs.feishu.cn/v/wiki/N25jwEDrmitXrwkz5MrczsI2n3f/a1

7.

https://starshot.tw/2024/07/2024-ai-deepfake-cybersecurity1/

8.

https://www.citictel-cpc.com/sc-my/blog/how-to-respond-to-deepfake-threats

9.

https://www.jiqizhixin.com/articles/2024-02-16-7

10.

https://www.freebuf.com/articles/neopoints/410664.html

11.

https://www.zgcsj.com/gd/2024-10-09/1549.shtml

12.

https://www.citictel-cpc.com/zh-hk/blog/how-to-respond-to-deepfake-threats

13.

https://www.wepro180.com/ai%E5%8F%8Adeepfake%E6%88%90%E4%B8%BB%E6%B5%81%E5%A8%81%E8%84%85-%E4%BB%B2%E6%9C%89%E4%B8%80%E5%80%8B%E5%AE%89%E5%85%A8%E9%9A%B1%E6%82%A3/

14.

https://www.wepro180.com/article/%E3%80%90%E5%85%AD%E6%8B%9B%E8%87%AA%E4%BF%9D%E3%80%91%E5%A6%82%E4%BD%95%E9%98%B2%E7%AF%84-ai-deepfake-%E8%A9%90%E9%A8%99%EF%BC%9F/

2024年2月，OpenAI发布了最新的Sora视频生成模型，这一技术突破再次将Deepfake技术推向了公众视野。Sora模型不仅展现了三维空间的连贯性、模拟数字世界的能力、长期连续性和物体持久性，还能与世界互动，如同真实存在。其训练过程获得了大语言模型的灵感，采用扩散型变换器模型，通过将视频转换为时空区块的方式，实现了在压缩的潜在空间上的训练和视频生成。这种独特的训练方法使得Sora能够创造出质量显著提升的视频内容，无需对素材进行裁切，直接为不同设备以其原生纵横比创造内容。

Deepfake技术最早可追溯至1994年的电影《阿甘正传》，其中使用了原始的换脸技术将肯尼迪影像融入电影，开启了相关探索。2016年，“Deepfake”一词首次出现，最初指基于AI的人像合成技术，随后扩展至多模态合成领域。2018年，一段伪造奥巴马视频引发广泛关注，2020年世界经济论坛指出Deepfake在选举中被用作政治操纵工具。2024年，OpenAI发布的Sora模型进一步推动了该技术的发展，但也引发了更多担忧。

Deepfake的核心是生成式对抗网络（GAN），它由两个神经网络组成：一个负责生成虚假内容，另一个则尝试区分真假。两者相互竞争、不断优化，最终生成难以辨识的伪造结果。

Deepfake技术在教育和娱乐领域展现出巨大潜力。在教育领域，虚拟教师和合成历史人物讲解可以提升互动性；在娱乐领域，电影制作突破时空限制，虚拟主播和合成偶像更具亲和力。此外，该技术还可应用于社交、虚拟现实及医疗等领域。

然而，Deepfake技术也带来了诸多风险。在国家安全方面，可能用于散布虚假信息，激化社会矛盾或干扰政治活动。在个人隐私方面，降低门槛的换脸技术易被用于非法行为，如色情报复或敲诈勒索。此外，公众对真实性的怀疑增加，可能导致信息混乱和社会分裂。

2024年，香港发生一起规模巨大的AI“深度伪造”诈骗案，诈骗金额高达2亿港元。这起案件涉及多人变脸技术，诈骗者通过精心伪造的“AI换脸、换声”技术，成功欺骗了企业员工进行多次转账。这一事件凸显了Deepfake技术在商业诈骗中的新威胁。

面对Deepfake技术带来的挑战，各国纷纷采取措施。中国于2021年要求未经评估的Deepfake技术不得上线，并禁止传播非显著标识的伪造内容。在技术层面，开发鉴伪工具以应对Deepfake滥用。用户层面，需要多重验证身份、保护个人信息并警惕不明链接，避免诈骗。

Deepfake技术是一把双刃剑，既带来了前所未有的创新机遇，也带来了前所未有的挑战。未来，我们需要在享受技术带来的便利的同时，不断加强监管和防范，确保技术的健康发展。这需要技术开发者、政策制定者和公众共同努力，建立一个既能促进技术创新，又能保护社会安全的生态系统。