今日头条升级AI内容审核：拦截低质AI内容超93万条
今日头条升级AI内容审核：拦截低质AI内容超93万条
2月24日，今日头条在北京举办"平台治理开放日"活动，相关业务负责人详细介绍了平台在低质量AI内容、同质化内容、虚假谣言等方面的治理方法。
今日头条生态治理运营负责人韩雨桐表示，近年来，随着越来越多用户在平台上参与创作和记录生活，平台内容丰富度大幅提升。然而，海量内容中也出现了虚假谣言、低质AI内容等问题，这些都对平台生态造成了破坏，也不利于创作公平。
针对AI技术和低质内容的快速发展，平台在鼓励用户使用AI提效的同时，也在积极保护原创空间。通过迅速升级和迭代AI模型的识别能力，平台已经收严了AI内容的审核标准。
值得注意的是，随着AI大模型技术的不断发展，短时间内生成大量内容的现象并不鲜见。例如，有用户在2分钟内发布6篇内容，且一天多次发布疑似AI生成的内容。
对于未来海量AI内容是否可能"淹没"人类创作者的问题，韩雨桐表示，AI创作确实具有门槛低、成本低、创作能力强等特点，可能会通过批量并不低质的内容冲击平台生态。目前，平台正在努力挖掘优质深度内容，并在保障原创、首创作者权益的基础上，为AI内容留出一定的分发空间。同时，平台也通过技术手段监控AI内容的整体流量占比，以保持在一个健康的水平。
此外，针对"地震宝宝照片系AI生成"等事件凸显的AI时代谣言治理问题，今日头条建立了三大核心治理能力：谣言库、权威信源库以及专业审核团队。2024年，平台还在发文下方增加了权威媒体报道来源标签，以保障资讯的真实性并为用户提供更多客观视角。
根据今日头条《2024年度治理报告》，平台全年累计拦截低质AI内容超93万条，禁言、封禁相关账号超2.9万个，用户关于低质AI内容的负反馈量级从年初的28条/天降低至2条/天。同时，平台还累计拦截不实信息超500万条，查证知识点101086个，封禁造谣、传谣等违规账号47705个。
今日头条生态治理运营负责人韩雨桐现场回答记者提问。官方供图