“AI幻觉”带来数据污染，科大讯飞董事长刘庆峰：开展深度鉴伪，定期清理幻觉数据

“AI幻觉”带来数据污染，科大讯飞董事长刘庆峰：开展深度鉴伪，定期清理幻觉数据

引用

腾讯

1.

https://new.qq.com/rain/a/20250305A05PL800

人工智能技术正向社会各领域渗透，全国人大代表、科大讯飞董事长刘庆峰关注到“AI幻觉”带来的数据污染及其对社会的负面影响。

刘庆峰。图/受访者提供

中国互联网络信息中心（CNNIC）发布的《生成式人工智能应用发展报告（2024）》显示：我国生成式人工智能产品的用户规模已达2.49亿人，占整体人口的17.7%。用户规模的快速增长背后，潜藏风险也被放大。

生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习，形成“数据污染-算法吸收-再污染”的恶性循环。而普通民众对AI技术原理及生成机制的认知和理解不足，极易将算法输出的“幻觉数据”误判为真实可信信息。

当大模型生成的“幻觉数据”充斥互联网信息生态时，不仅会削弱公众信任，还可能影响社会稳定。

为此，刘庆峰表示，应预防大模型生成“幻觉数据”充斥互联网带来的危害，从技术研发和管理机制上构建可信的信息环境。

第一，构建安全可信数据标签体系，提升内容可靠性：建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度建立标签体系，降低人工智能幻觉出现概率，提升生成内容可靠性；

第二，研发AIGC幻觉治理技术和平台，定期清理幻觉数据：研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源，由中央网信办、国家数据局等部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。

本文原文来自九派新闻