抖音亮剑摆拍乱象：AI技术如何助力内容治理？

抖音亮剑摆拍乱象：AI技术如何助力内容治理？

引用

网易

等

7

来源

1.

https://www.163.com/dy/article/JO72U0OC05149FJ6.html

2.

https://c.m.163.com/news/a/JO71LC6P0512D3VJ.html?from=subscribe

3.

https://ai.baidu.com/solution/censoring

4.

https://www.163.com/dy/article/JO7D6QG90526D8LR.html

5.

https://new.qq.com/rain/a/20250212A04BNW00

6.

https://ai.aliyun.com/vi/censor

7.

https://www.alibabacloud.com/help/zh/vod/user-guide/automated-review-1

2月12日，抖音集团副总裁李亮在微博发文回应视频“摆拍”乱象，引发广泛关注。他表示，平台对摆拍治理是明确的，会要求作者做标识，不做标识的摆拍内容核实后会按违规处理。这一表态不仅彰显了平台治理的决心，也折射出短视频行业面临的深层次挑战。

面对海量的短视频内容，仅靠人工审核显然难以应对。AI技术的引入，为内容治理提供了新的解决方案。以百度AI内容审核系统为例，其具备以下核心功能：

• 多维度识别：支持图像、文本、语音等多维度内容审核
• 高准确率：依托深度学习技术和海量数据积累，识别准确率行业领先
• 实时更新：敏感内容库按天级别更新，可识别最新违规内容
• 灵活配置：支持自定义黑白名单，贴近业务需求

然而，AI技术在内容治理中也面临诸多挑战。例如，对于一些高度模仿真实场景的摆拍视频，AI识别的准确率可能会降低。此外，AI系统也可能出现误判，将一些正常内容标记为违规，这需要人工复核来弥补。

抖音在治理摆拍乱象方面已经采取了一系列措施。根据2024年5月发布的《抖音关于实行热点内容核实机制的公告》，平台要求：

• 创作者通过剧情演绎方式创作、发布虚构内容时，需在显著位置或以显著形式明确标注相关视频系演绎
• 对疑似演绎而未打标的内容，平台会下发提醒，提醒后仍未打标的内容将采取下架、账号处罚等措施
• 未打标造成公众、媒体误解的账号，将视情节给予全面禁言30天至无限期封禁等处罚

尽管如此，治理摆拍乱象仍面临不少挑战。李亮坦言，“怎么识别摆拍是治理难点，一些媒体有时也会误把段子当作新闻来报道。”这表明，摆拍内容的识别不仅需要技术支撑，还需要媒体机构的协同参与。

要从根本上解决视频摆拍乱象，需要构建一个多方参与的协同治理体系。这包括：

• 平台责任：持续优化AI审核系统，提高识别准确率；完善创作者信用体系；建立更高效的举报处理机制
• 创作者自律：自觉遵守平台规则，对虚构内容进行明确标注；提升内容创作质量，避免误导用户
• 用户参与：提高媒介素养，增强辨别虚假信息的能力；积极举报违规内容
• 媒体机构：在报道短视频热点时保持审慎态度，避免误将虚构内容当作新闻传播
• 政府监管：完善相关法律法规，明确各方责任；加强对平台的监督指导

正如李亮所说，“这个识别需要时间，有的情况要核实清楚也不容易，处置的效率不高。”这说明，治理视频摆拍乱象是一个长期而复杂的系统工程，需要各方共同努力，才能营造一个真实可信的网络环境。