深度伪造无处遁形！这项新技术轻松识破AI生成图像和视频

深度伪造无处遁形！这项新技术轻松识破AI生成图像和视频

随着AI技术的快速发展，深度伪造（deepfake）现象日益严重，如何准确识别AI生成的虚假图像和视频成为亟待解决的问题。近期，宾汉姆顿大学研究团队开发出新技术，通过频域分析技术成功揭示了AI生成图像的特征，为识别虚假信息提供了新的解决方案。

图源备注：图片由AI生成，图片授权服务商Midjourney

这项研究由宾汉姆顿大学电气与计算机工程系教授Yu Chen带领，研究团队成员包括博士生Nihal Poredi和Deeraj Nagothu，以及维吉尼亚州立大学的硕士生Monica Sudarsan和教授Enoch Solomon。

研究团队首先使用流行的AI生成工具（如Adobe Firefly、PIXLR、DALL-E和Google Deep Dream）创建了成千上万张图像。然后，他们采用信号处理技术分析这些图像的频域特征，以找出真实图像与AI生成图像之间的差异。

通过名为生成对抗网络图像认证（GANIA）的工具，研究人员能够识别出AI生成图像中出现的伪影。这些伪影是由于AI在生成图像时使用的上采样技术留下的，简单来说就是通过克隆像素来放大文件，但这样会在频域中留下“指纹”。Chen教授解释道：“真实相机拍摄的照片包含来自整个环境的所有信息，而AI生成的图像则更多集中于用户的请求，因此无法准确捕捉背景环境的细微变化。”

除了识别图像外，团队还开发了一款名为“DeFakePro”的工具，用于检测伪造的音频和视频。这个工具利用了电网频率（ENF）信号，这种信号是在记录过程中，由电力的微小波动而产生的。通过分析这些信号，DeFakePro可以判断出一段记录是否被篡改，进一步对抗深度伪造的威胁。

Poredi强调，识别AI生成内容的“指纹”非常重要，这将帮助建立一个认证平台，确保视觉内容的真实性，从而减少虚假信息带来的负面影响。他指出，社交媒体的广泛使用使得虚假信息问题更加严峻，因此确保在线共享数据的真实性至关重要。

在这项研究中，团队希望为公众提供更多工具，以便让大家更容易区分真实与虚假内容，提升信息的可信度。