你听说过AI造谣吗？如何识破AI谣言？

你听说过AI造谣吗？如何识破AI谣言？

引用

新浪网

1.

https://finance.sina.com.cn/wm/2024-11-15/doc-incwcvch6251983.shtml

随着人工智能（AI）技术的快速发展，AI造谣已成为一个不容忽视的问题。从编造虚假新闻到制造虚假视频，AI造谣不仅损害个人名誉，还可能扰乱社会秩序。本文将为您揭示AI造谣的特征、危害，并提供实用的防范指南。

AI网络谣言案例

2024年6月，网络平台上流传一段关于“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频，引发大量关注。经调查，该视频图文内容系AI合成的谣言。造谣者任某已被依法追究法律责任。

2024年1月，广西东兴市骆某某使用AI软件编辑抗洪救灾视频，捏造新疆乌什县发生地震的虚假信息，造成谣言大量传播。目前，骆某某已被依法追究责任。

2024年5月，有人在某平台发布《一场惊心动魄的“钞票大战”巴中市警民对峙引发轰动谁将成为胜利者》的谣言文章，经查为AI生成的虚假信息，造谣者已被依法追责。

AI网络谣言特征

• 定制化：AI能够通过机器学习方法生成定制化的内容，只需输入关键词即可生成文章、新闻等。
• 门槛低：利用AI造谣者只需输入关键词即可生成逼真的文章、图片。
• 识别难：AI生成的虚假信息形式逼真，包含完整新闻要素，甚至可能包含图像和视频，难以辨别真伪。
• 破坏大：AI生成的虚假信息极具蛊惑性，短时间内就能快速传播，易引发社会恐慌，扰乱社会公共秩序。

网络谣言危害

• 泄露敏感数据：AI工具可能收集用户信息，造成隐私泄露。
• 损害他人名誉：网络谣言往往针对特定个人或群体，散布虚假信息，恶意攻击和诋毁他们的名誉和利益。
• 误导公众认知：网络谣言利用人们的认知和心理弱点，制造虚假信息，误导公众对特定事件或人物的认知和评价。
• 扰乱公共秩序：网络谣言可能引发公众恐慌和不安，破坏社会信任和稳定。

如何增强“免疫力”

• 保持警惕：仔细分析信息的逻辑性，若存在明显漏洞、矛盾或与常理不符的地方，很可能是虚假信息。
• 多方验证：不要仅仅依赖单一的信息来源，应从多个权威渠道获取信息进行对比。
• 谨慎分享：在确定信息真实可靠之前，不要随意转发，以免无意中成为谣言传播的推手。
• 保护隐私：注意保护个人隐私，不随意泄露个人信息给不可信的网站或应用程序，防止个人信息被用于生成虚假内容。

面对AI造谣，我们既要保持警惕，也要理性应对。通过多方验证、谨慎分享等措施，我们可以有效提升自身的“免疫力”，共同营造一个清朗的网络空间。

本文原文来自公安部网络安全保卫局，转自“学习强国”学习平台