代表委员答网友问：什么是AI幻觉？人工智能的“幻觉”会带来哪些风险？
代表委员答网友问：什么是AI幻觉？人工智能的“幻觉”会带来哪些风险？
在科技飞速发展的当下，人工智能（AI）已经深度融入我们的生活，从智能语音助手到图像生成软件，AI 的应用无处不在。然而，随着 AI 技术的广泛应用，一个新的概念逐渐进入大众视野 ——AI 幻觉。究竟什么是 AI 幻觉？它又会对我们产生怎样的影响？在今年两会期间，代表委员们针对网友的这一疑问，给出了详细解答。
全国政协委员寇纲介绍，大语言模型的 “幻觉”，可以通俗地这样理解：将人工智能比作一个思考的人，它在思考时形成思维链。但与人类并行处理信息不同，人工智能以串行结构思考。一旦在思考的第一步与预想方向出现细微偏差，就如同开了一个 “脑洞”，这个 “脑洞” 会随着思维链不断扩张，导致其越来越偏离原始目标，这就是大语言模型产生 “幻觉” 的原因。
简单来说，AI 幻觉就是人工智能系统生成或输出与物理真实世界不符，甚至具有误导性结果的现象。例如，AI 语言模型可能会一本正经地给出不存在的科学研究结论，或是在图像生成时，创造出违背现实逻辑的场景。当你向 AI 询问某部经典小说的结局，它可能会编造出一个从未存在过的情节，让你误以为这就是原著内容。
全国政协委员王亮指出，为减少 “幻觉” 的产生，可从算法技术和数据两个层面入手。在算法技术方面，设计更稳定、鲁棒性更强的算法，优化模型架构。就像建造一座稳固的大厦，坚实的算法基础才能让 AI 在处理信息时更加可靠。在数据层面，提供高质量、无偏差的数据，因为 “垃圾进，垃圾出”，低质量、有偏差的数据是导致 AI 产生 “幻觉” 的重要因素之一。
全国人大代表刘庆峰也关注到了 AI 幻觉问题。他指出，随着我国生成式人工智能产品用户规模已达 2.49 亿人，AI 幻觉潜藏的风险被放大。深度推理模型逻辑自洽性的提升，让 AI 生成内容真假难辨，这些带有算法偏差的虚假信息会被新一代 AI 系统循环学习，形成恶性循环。普通民众由于对 AI 技术原理及生成机制了解不足，很容易将这些 “幻觉数据” 误判为真实信息。当大量 “幻觉数据” 充斥互联网，将削弱公众信任，影响社会稳定。
为此，刘庆峰代表建议，构建安全可信数据标签体系，提升内容可靠性，通过为不同类型数据的可信度和危害程度建立标签，降低 AI 幻觉出现概率。同时，研发 AIGC 幻觉治理技术和平台，开展幻觉自动分析、深度鉴伪等工作，并由相关部门定期清理幻觉数据，还可以为公众提供检测工具，帮助大家识别 AI 幻觉信息。
AI 幻觉并非只有负面影响。全国政协委员周鸿祎提到，AI “幻觉” 在文学创作等领域有一定积极作用，它能带来更多创意和想象空间。但在医疗、法律、金融等不容出错的关键领域，AI 幻觉可能会引发严重后果。例如，在医疗诊断中，AI 若因幻觉给出错误的疾病判断，将直接危及患者生命健康。
AI 幻觉是人工智能发展过程中出现的一个重要现象，需要我们高度重视。随着代表委员们在两会期间对这一问题的探讨，相信未来会有更多有效措施来应对 AI 幻觉，让人工智能技术在可靠的轨道上持续为人类创造价值。你在使用 AI 过程中，遇到过哪些 AI 幻觉现象呢？欢迎在评论区分享你的经历。
本文原文来自搜狐新闻