有图未必有真相，揭秘AI造假乱象

有图未必有真相，揭秘AI造假乱象

引用

澎湃

1.

https://www.thepaper.cn/newsDetail_forward_29344586

随着人工智能技术的快速发展，AI在文本生成、图片创作等方面的应用日益广泛。然而，一些不法分子却利用AI技术制造虚假信息和谣言，严重扰乱了网络秩序和社会稳定。本文将通过具体案例，揭示AI造假的乱象，并提供防范建议。

AI网络谣言案例

• 广东五华县老人被打案：2024年6月，网络平台上流传一段关于广东五华县老人被打的视频，引发广泛关注。经调查，该视频的图文内容系移花接木、肆意编造的网络谣言。造谣者任某供述，这段长达几分钟的视频全是由AI合成的。

• 新疆乌什县地震谣言：2024年1月，广西东兴市骆某某使用AI软件编辑抗洪、救灾视频，捏造了新疆乌什县发生地震的虚假视频信息。该谣言在互联网平台大量传播，目前造谣者已被追究法律责任。

• 巴中市警民对峙谣言：2024年5月，有人在某平台发布《一场惊心动魄的“钞票大战”巴中市警民对峙引发轰动谁将成为胜利者》的谣言文章。经查，该文章由AI系统生成，相关言论及照片均为不实信息，造谣者已被依法处理。

AI网络谣言特征

• 定制化：AI能够利用机器学习方法从数据中学习不同内容的生成特征，只需输入关键词即可生成定制化的文章、新闻等信息。

• 门槛低：相比传统造谣方式，利用AI造谣者只需输入关键词即可“一键生成”可以假乱真的文章、图片。

• 识别难：AI生成的虚假信息在形式上非常逼真，往往新闻要素齐全、内容完整，甚至可能包含图像和视频，这使得公众难以辨别真伪。

• 破坏大：利用AI工具制造谣言能生成极为逼真的图片、音视频，颠覆了“有图有真相”的常规认知，蛊惑性极强，短时间内就能快速传播，易引发社会恐慌，扰乱社会公共秩序。

网络谣言危害

• 泄露敏感数据：AI工具可能收集并存储用户信息，造成个人隐私数据泄露，甚至可能推断出敏感信息。

• 损害他人名誉：网络谣言往往针对特定个人或群体，散布虚假信息，恶意攻击和诋毁他们的名誉和利益。

• 误导公众认知：网络谣言利用人们的认知和心理弱点，制造虚假信息，误导公众对特定事件或人物的认知和评价。

• 扰乱公共秩序：网络谣言可能引发公众恐慌和不安，破坏社会信任和稳定，甚至导致社会动荡。

如何增强“免疫力”

1. 保持警惕：仔细分析信息的逻辑性，若存在明显漏洞、矛盾或与常理不符的地方，很可能是虚假信息。

2. 多方验证：不要仅仅依赖单一的信息来源，应从多个权威渠道获取信息进行对比。对于热点事件，可以检索官方媒体的报道进行验证。

3. 谨慎分享：在确定信息真实可靠之前，不要随意转发，以免无意中成为谣言传播的推手。

4. 保护隐私：注意保护个人隐私，不随意泄露个人信息给不可信的网站或应用程序，防止个人信息被用于生成虚假内容。

本文原文来自澎湃新闻