上海警方严打AI造谣团伙：技术升级，法律亮剑

上海警方严打AI造谣团伙：技术升级，法律亮剑

引用

央视网体育频道

等

9

来源

1.

https://news.cctv.com/2025/01/22/ARTIYeiGhCm8e2XIdZjXPGYM250122.shtml

2.

http://www.lt.cas.cn/lnzj/wlflfw/202412/t20241210_5042285.html

3.

http://legalinfo.moj.gov.cn/zhfxfzzx/fzzxrdtj/202501/t20250114_513076.html

4.

https://finance.sina.com.cn/wm/2024-11-26/doc-incxkhuq7543408.shtml

5.

https://news.cpd.com.cn/n3569/125/t_1167976.html

6.

https://www.cpd.com.cn/n15737398/n26490099/1024/t_1154886.html

7.

https://gaj.sh.gov.cn/shga/wzXxfbGj/detail?pa=f41aa3d5accbfad14fcbf784730c1c7f3246599c78cf0fe4980d7c82a795cfca9320b031897fef982314c5ee4631dc29f89cd8d0bb43e938

8.

https://www.allbrightlaw.com/CN/10475/20cacb63814c2f97.aspx

9.

http://www.news.cn/legal/20240717/8351d2314086499580f986ecf22b7304/c.html

近日，上海警方通报了一起利用AI技术批量制造和传播网络谣言的案件，涉案团伙通过AI软件生成虚假视频和文章，在网上散布谣言，严重扰乱社会秩序。这起案件再次敲响了警钟：随着AI技术的快速发展，我们正面临着前所未有的信息真实性的挑战。

在山东济南，一篇题为“大妈摆摊卖水果被罚16万，监管局回应不交就罚145万”的文章在网络上引发热议。文章声称，一位65岁的吴大娘因无照经营被市场监管局执法人员要求罚款，如果拒绝配合还要提升赔款数额至145万。这则耸人听闻的消息迅速引发公众关注和愤慨。

然而，经警方调查核实，这竟然是一篇彻头彻尾的虚假文章，出自湖南长沙一家传媒公司之手。该公司专门利用AI技术生成虚假信息，通过制造社会矛盾和冲突来博取眼球和流量。更令人震惊的是，该公司不仅自己发布虚假信息，还通过AI软件将未经核实的信息直接转为虚假新闻，甚至发展出一套完整的“洗稿”产业链。

AI造谣的核心手法是“洗稿”。具体流程如下：

1. 关键词提炼：从热点文章中提取时间、人物、地点等核心信息
2. AI生成：利用AI软件生成一篇核心意思相同但具体内容不同的虚假信息
3. 人工修饰：通过人工添加夸张细节和情绪化内容，增强文章的煽动性
4. 分发发布：通过控制的大量账号进行批量发布

这种模式下，AI生成的文章与原文查重率不超过25%，既能通过平台审核，又能逃避传统意义上的抄袭检测。而为了增加可信度，造谣者还会配上AI生成的虚假图片或视频，让谣言更加“有图有真相”。

针对AI造谣行为，我国法律有明确的处罚规定。根据《中华人民共和国治安管理处罚法》，散布谣言，谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，可处五日以上十日以下拘留，可以并处五百元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款。

在上述案件中，代运营该账号的公司法定代表人李某以及编写该文章的员工彭某，分别被处以行政拘留3日的处罚。而在另一起类似案件中，徐某等人因利用AI生成虚假信息并有偿发布，被检察机关以非法经营罪提起公诉。

AI造谣的危害远不止于此。它不仅严重扰乱社会秩序，还对公众认知造成深远影响。虚假信息的泛滥，让公众陷入“眼见未必为实”的困境，甚至可能导致社会信任体系的崩塌。

面对AI造谣这一新型网络犯罪，上海警方的行动彰显了执法部门维护清朗网络环境的决心。但要彻底根除这一顽疾，还需要社会各界共同努力：平台应加强内容审核和技术防控，公众要提高信息辨别能力，而我们每个人都应该坚守法律和道德底线，不造谣、不信谣、不传谣。

这起案件再次提醒我们：在AI时代，我们必须时刻保持警惕，既要享受技术带来的便利，也要防范其可能被滥用的风险。只有这样，我们才能共同守护一个真实、有序的网络空间。