“清朗”行动：AI助力防范网络暴力

“清朗”行动：AI助力防范网络暴力

引用

人民网

等

9

来源

1.

http://paper.people.com.cn/rmlt/pc/content/202410/16/content_30030029.html

2.

https://www.secrss.com/articles/75009

3.

https://www.cac.gov.cn/2025-01/19/c_1738899842680885.htm

4.

https://www.cac.gov.cn/2024-03/15/c_1712088026696264.htm

5.

https://www.nwccw.gov.cn/2025/01/20/99713351.html

6.

https://www.gov.cn/zhengce/zhengceku/202411/content_6989143.htm

7.

https://www.cac.gov.cn/2024-12/19/c_1736308605590121.htm

8.

https://www.gov.cn/lianbo/bumen/202404/content_6948077.htm

9.

http://www.news.cn/legal/20240425/aa8c0ccd1f484d32b0d989851e8cc537/c.html

2025年春节前夕，中央网信办启动了为期一个月的“清朗·2025年春节网络环境整治”专项行动。此次行动聚焦六大方面问题，包括极端对立、不实信息、低俗恶俗、不良文化、违法活动引流和侵害消费者权益等，旨在为广大网民营造积极向上、文明健康的节日氛围。

在此次行动中，人工智能（AI）技术被广泛应用，成为打击网络暴力和虚假信息的重要利器。通过自然语言理解、图像识别等技术，AI能够快速分析海量网络内容，精准识别和阻断网络暴力的传播链，最大限度降低负面影响。

然而，随着AI技术的快速发展，网络暴力和虚假信息的制造也呈现出新的特点和挑战。AI水军的出现，使得虚假信息的传播更加隐蔽和高效。这些AI水军能够根据用户特征定制内容，生产高度个性化的虚假信息，甚至通过深度伪造技术制造逼真的虚假图片和视频，大大增加了识别难度。

以2024年河北邯郸的一起案例为例，网民张某使用AI软件生成虚假警情信息，引发当地居民恐慌。这种利用AI技术制造虚假信息的行为，不仅扰乱了社会秩序，还增加了辟谣成本，给相关部门带来了额外负担。

面对这些新挑战，我国正在不断完善治理体系。一方面，通过制定《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规，规范AI内容的生成和传播；另一方面，督促平台落实主体责任，优化内容审核机制，提升AI识别能力。同时，加强用户教育，提高公众的媒介素养和信息辨别能力，形成多方共治的良好局面。

AI技术在防范网络暴力方面展现出巨大潜力，但同时也带来新的挑战。未来，我们需要在技术创新和伦理规范之间找到平衡点，既要充分发挥AI技术的优势，又要有效遏制其被滥用的风险，共同营造一个更加清朗、健康的网络空间。