深度伪造无处遁形！这项新技术轻松识破AI生成图像和视频
深度伪造无处遁形！这项新技术轻松识破AI生成图像和视频
随着人工智能技术的迅猛发展，深度伪造（deepfake）现象愈演愈烈，如何准确识别AI生成的虚假图像和视频成为亟待解决的重要课题。近日，美国宾汉姆顿大学研究团队在这一领域取得重要突破，他们开发出新型技术，能够有效识别AI生成内容的"指纹"特征。
图源备注：图片由AI生成，图片授权服务商Midjourney
这项研究由宾汉姆顿大学电气与计算机工程系教授Yu Chen领衔，研究团队成员包括博士生Nihal Poredi和Deeraj Nagothu，以及维吉尼亚州立大学硕士生Monica Sudarsan和教授Enoch Solomon。
研究团队首先使用Adobe Firefly、PIXLR、DALL-E和Google Deep Dream等主流AI工具生成了大量图像样本。随后，他们采用先进的信号处理技术，对这些图像的频域特征进行深入分析，以揭示真实图像与AI生成图像之间的本质差异。
通过名为生成对抗网络图像认证（GANIA）的工具，研究人员成功识别出AI生成图像中存在的伪影。这些伪影是由于AI在生成图像时采用的上采样技术所导致的，具体表现为通过克隆像素来放大图像文件，从而在频域中留下独特的"指纹"特征。Yu Chen教授解释道："真实相机拍摄的照片能够完整记录环境信息，而AI生成的图像则更多聚焦于用户需求，难以准确捕捉背景环境的细微变化。"
除了图像识别，研究团队还开发了一款名为"DeFakePro"的工具，专门用于检测伪造的音频和视频内容。该工具利用电网频率（ENF）信号进行分析，这种信号是在录制过程中由电力微小波动产生的。通过检测这些信号，DeFakePro能够判断一段记录是否经过篡改，从而有效应对深度伪造带来的威胁。
Nihal Poredi强调，识别AI生成内容的"指纹"特征至关重要，这将有助于建立一个可靠的内容认证平台，确保视觉内容的真实性，从而减少虚假信息带来的负面影响。他指出，社交媒体的普及使得虚假信息问题更加严峻，因此确保在线共享数据的真实性显得尤为重要。
这项研究不仅展示了识别AI生成内容的技术可行性，更为公众提供了实用的工具，有助于提升信息的可信度，维护网络空间的清朗环境。