AI技术打击网络谣言，让真相不再迟到

AI技术打击网络谣言，让真相不再迟到

引用

中国军网

等

12

来源

1.

http://www.81.cn/rmjz_203219/jsjz/2023nd1q_244462/yldzgzyj_244467/16203061.html

2.

https://finance.sina.com.cn/roll/2024-11-20/doc-incwspwu2241817.shtml

3.

https://www.secrss.com/articles/60780

4.

http://www.xinhuanet.com/talking/character/2022020702.htm

5.

http://www.jiangsu.gov.cn/art/2024/9/13/art_84323_11359976.html

6.

https://www.bjfsh.gov.cn/zsk/zcwd/202308/t20230828_40065830.shtml

7.

http://www.news.cn/legal/20240717/8351d2314086499580f986ecf22b7304/c.html

8.

https://jsnews.jschina.com.cn/jsyw/202409/t20240913_3459669.shtml

9.

http://www.js.news.cn/20240912/3d93217a060b48178b2f0c2d3e32bcc8/c.html

10.

https://www.cpd.com.cn/n15737398/n26490099/1024/t_1154886.html

11.

http://www.xiaoyi.gov.cn/xxgk/fdzdgknr/zwzt/pjkxzscbkxsx/202412/t20241202_1916183.shtml

12.

http://www.tonggu.gov.cn/tgxrmzf/qtygwj4d/202409/dfe1cd9afee94e7aa84ca5c1acf1e612.shtml

2024年以来，江苏省公安机关持续加大网络谣言打击力度，共侦办网络谣言案件4200余起，其中“AI生成式谣言”案件36起。这一数据背后，折射出AI技术在谣言生成与识别两端的博弈日益激烈。

AI生成式谣言，是利用人工智能技术编造虚假信息的一种新型网络谣言。与传统谣言相比，AI生成式谣言具有以下显著特点：

1. 生成效率高：AI可以短时间内批量生产大量谣言内容，远超人工创作速度。

2. 仿真度强：结合深度伪造技术，可以制作高度逼真的图片、视频，让人难以辨别真伪。

3. 传播速度快：通过算法优化，AI生成的内容更容易在社交媒体上获得高曝光率。

4. 成本低廉：普通人只需掌握基本的AI工具使用方法，就能制作出专业的谣言内容。

今年6月，广东五华县一则关于老人被打、孙子跳河自杀的短视频在网上传播，引发广泛关注。经调查，这段声色并茂的视频竟是由AI合成的虚假信息。无独有偶，福建南平松溪县“严重大风袭击致人死亡”的消息，也是通过AI编造的虚假视频。

这些案例揭示了AI生成式谣言的巨大危害：

• 扰乱社会秩序：虚假信息可能引发公众恐慌，影响社会稳定。
• 削弱政府公信力：虚假的政务信息会损害政府形象和公信力。
• 诱发电信诈骗：不法分子利用AI生成的虚假信息实施诈骗活动。
• 侵犯个人权益：虚假新闻可能侵犯他人的隐私权、名誉权。

面对AI生成式谣言的威胁，AI技术也在反向发力，成为打击谣言的重要工具。

AI谣言识别的工作原理

AI谣言识别系统通常采用以下步骤：

1. 信息采集：通过网络爬虫技术，实时收集各大平台的文本、图片、视频信息。

2. 特征提取：利用自然语言处理技术，分析文本的语义特征；通过图像识别技术，检测图片和视频的异常。

3. 对比分析：将获取的信息与谣言数据库进行对比，识别相似度。

4. 可信度评估：结合知识图谱和权威信息源，验证信息的真实性。

5. 预警反馈：对疑似谣言内容进行标记，及时通知相关部门和平台。

实战效果

在江苏警方破获的多起网络谣言案件中，AI技术发挥了关键作用。例如，盐城警方通过AI识别技术，成功捣毁了一个通过摆拍造谣、制作虚假社会新闻的犯罪团伙，抓获涉案人员10余名。

面对AI生成式谣言的挑战，我国不断完善相关法律法规，为打击网络谣言提供法律依据。

• 《互联网信息服务深度合成管理规定》：明确禁止利用AI制作、传播虚假信息，维护国家安全和社会稳定。

• 《生成式人工智能服务管理暂行办法》：规定AI服务不得生成虚假有害内容，强调研发者和服务提供者的主体责任。

• 《治安管理处罚法》：对散布谣言、谎报险情等行为给予拘留、罚款等行政处罚。

• 《刑法》：编造虚假信息严重扰乱社会秩序的，可处三年以下有期徒刑；造成严重后果的，处三年以上七年以下有期徒刑。

AI技术在打击网络谣言中展现出巨大潜力，但要真正实现“让真相不再迟到”，还需要多方共同努力：

1. 完善技术标准：建立统一的AI生成内容标识规范，让用户能够辨别AI生成的信息。

2. 加强平台责任：督促互联网平台落实主体责任，运用AI技术加强内容审核。

3. 提升公众素养：开展网络安全教育，提高公众对虚假信息的识别能力。

4. 推进国际合作：AI谣言不分国界，需要全球携手应对这一挑战。

AI技术是一把双刃剑，既能被用于制造谣言，也能成为打击谣言的利器。在法律框架下，通过技术创新和多方协作，我们有望构建一个更加清朗的网络空间，让真相永远跑在谣言前面。