全国政协委员齐向东：积极构建高可靠人工智能安全体系
全国政协委员齐向东：积极构建高可靠人工智能安全体系
国产大模型DeepSeek近期火爆出圈，人工智能（AI）成为今年全国两会热门话题。不过，随着人工智能技术的深度应用，大模型自身面临和随之带来的安全挑战也日益严峻。全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东提出了构建高可靠人工智能安全体系的建议，从技术保障、制度保障、成果应用三方面入手，确保人工智能安全发展。
全国政协委员 齐向东
AI是新一轮科技革命核心技术
当前，以大模型为代表的人工智能技术正在深刻重塑生产生活方式和科技创新模式。今年春节，国产大模型DeepSeek横空出世，引发了广泛讨论，它颠覆了传统的人工智能创新模式，将推动人工智能技术加速向千行百业渗透。
今年全国两会上，齐向东重点关注人工智能安全和软件产业健康发展两方面。他认为，这次DeepSeek横空出世，彰显了我国在科技创新上的巨大潜力，有力回应了“脱钩断链”“小院高墙”等带来的冲击，不仅让我们创新创业企业倍感振奋、干劲十足，也为我国科技创新实现从“追赶”到“引领”的蜕变，提供了重要战略机遇。
齐向东指出，人工智能是引领未来发展的颠覆性技术和前沿技术，也是注定要走进千家万户的关键共性技术。大力发展人工智能，能切实增强我国在数字经济、高水平人才引育和产业链供应链完整性等方面的优势，提升我国在国际技术标准与安全治理等领域的话语权。
“在传统产业转型升级的过程中，人工智能发挥着‘领头雁’效应。”齐向东表示，作为传统产业数字化转型中最重要的变革驱动力量，人工智能已在研发、生产、管理全环节广泛应用，涌现出上百种场景和模式。不过，人工智能也大幅提升了网络攻击的烈度和广度，给传统产业发展带来了新风险、新挑战。
AI发展面临三类安全问题
随着人工智能技术的深度应用，大模型自身面临的以及带来的安全挑战也日益严峻，导致网络攻击窗口不断扩大、网络攻击手段不断革新、网络犯罪门槛持续降低。已有团队发现DeepSeek存在严重漏洞，并可借此获取后端隐私数据、API（应用程序编程接口）密钥、操作元数据，目前漏洞已被修补。
齐向东总结，人工智能发展面临的安全问题大致可以分为三类：第一类是人工智能大模型自身的安全问题。开发风险、数据风险、应用风险和基础环境风险这四大安全风险比较突出。开发方面，开源大模型要重点防范代码缺陷和预留后门等问题；应用方面要防“内鬼”对训练数据投毒，进行模型篡改、配置篡改；数据方面，要小心内部配置错误和弱口令等造成的数据库暴露；基础环境方面，要重点关注云、API、传统设备漏洞等。
第二类是利用人工智能开展网络攻击的问题。人工智能促进了网络攻击手段的更新迭代，“饱和式”攻击成为可能，攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。人工智能还提升了“以假乱真”的能力，深度伪造、认知战、“钓鱼”等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息，开展网络诈骗，或输出背离主流价值观的内容危害认知安全。
第三类是通过攻击人工智能引发的“网络攻击大爆炸”。未来人工智能会成为社会的基础设施，当大模型嵌入智慧城市、工控系统、智慧政务等关键领域时，会放大漏洞等传统安全威胁，一旦人工智能大模型遭到攻击可能会牵一发而动全身，引发社会服务中断、生产停滞、隐私数据泄露等安全事件。
构建高可靠AI安全体系
针对上述安全问题，齐向东建议可以从技术保障、制度保障、成果应用三方面入手，系统提升安全能力，确保人工智能安全发展。积极构建高可靠人工智能安全体系，着力为用户提供有效的安全防护，既要用人工智能去驱动安全，又要做好人工智能自身安全。
第一，建立适配大模型的纵深防御体系，筑牢人工智能的安全根基。最近，奇安信发布了业界首个大模型安全整体解决方案大模型安全盾，率先提出“大模型安全红域”概念。通过构筑覆盖终端、应用、数据、模型、红域的多维度核心防护能力，打造适用于人工智能的立体纵深防御体系，并给予威胁情报、大网数据监测等情报赋能，实现“对外防攻击、对内防内鬼”，为人工智能大模型安全稳定运行保驾护航。
第二，制定大模型安全强制合规要求，夯实人工智能安全发展的制度保障。要明确大模型安全的组织架构，界定安全主体责任，对基础安全、数据安全、应用系统开发安全、运行安全等方面提出清晰的技术保障要求。同时，做好大模型运行安全监测和内容风控，定期开展安全评估测试，完善应急响应机制，一旦发现异常行为或潜在的安全事件，第一时间进行处置，将安全威胁消除在萌芽状态。
第三，推广“AI+安全”创新成果落地，走好提升安全能力的必经之路。随着人工智能应用的进一步铺开，要鼓励更多产业用上、用好“AI+安全”创新成果，提高千行百业的网络安全防护效能。促进产学研用深度融合，推动科研成果从实验室走向市场，并以更加主动的姿态嵌入区域化、全球化的产业链条，占据关键节点位置，推动人工智能产业迈向更高发展水平。