古特雷斯：联合国如何应对AI威胁？
古特雷斯：联合国如何应对AI威胁？
2025年1月，在瑞士达沃斯的世界经济论坛上，联合国秘书长古特雷斯发出强烈警告：在缺乏监管的情况下，人工智能（AI）的无序扩张正威胁着人类的生存与发展。他指出，AI有可能被滥用于不当目的，造成经济混乱和社会不安，甚至在战场上可能带来难以想象的后果。
面对这一全球性挑战，联合国正在积极行动，推动国际社会共同应对AI带来的风险。2023年10月，联合国成立了高级别人工智能咨询机构，该机构由来自33个国家和众多行业的39位人工智能领域的杰出人物组成，是世界上第一个也是最具代表性的专家组。经过数月的广泛全球磋商，该机构于2024年9月发布了《为人类治理人工智能》最终报告。
报告指出，当前国际人工智能治理存在严重不平衡：在联合国193个会员国中，只有7个国家参与了近期提出的七项重要人工智能治理举措，118个会员国完全缺席，主要为全球南方国家。此外，目前尚无全球性的框架来约束人工智能的发展，而人工智能的开发主要集中在少数国家的少数跨国公司手中，这可能导致大多数人在没有发言权的情况下被迫承受人工智能带来的风险。
针对这些挑战，咨询机构提出了成立国际人工智能科学小组等七项具体建议，呼吁联合国为第一个基于国际合作的全球包容性和分布式人工智能治理框架奠定基础。报告强调，各国政府和利益攸关方必须携手治理人工智能，紧跟人工智能的发展步伐，以促进发展并保护所有人权。
联合国大会也于2024年3月通过了首个人工智能决议，强调“安全、可靠和值得信赖的人工智能系统”必须在其整个生命周期内“尊重、保护和增进人权和基本自由”。决议还呼吁各国政府和利益攸关方制定和支持相关监管和治理框架，以确保人工智能的健康发展。
在联合国2.0改革框架下，数字化被列为优先发展方向。世界数字科学院（WDTA）启动了“人工智能安全、可信和负责任”（AI STR）认证计划，发布了三项重要标准，包括“生成式人工智能应用安全测试标准”“大语言模型安全测试方法”和“大模型供应链安全要求”。联合国秘书长古特雷斯明确表示，联合国2.0将把数字化作为重点，突出了全球数字解决方案在AI重塑未来时的必要性。
然而，AI治理仍面临诸多挑战。古特雷斯特别指出，AI的无序扩张不仅会加剧社会不平等，还可能剥夺弱势群体发展的机遇。他呼吁全球各国建立合作机制，确保科技进步真正惠及全人类，推动建设更加包容的社会。
面对这一前所未有的技术革命，国际社会需要共同努力，通过制定全球共同标准与法规，实现可持续发展。正如古特雷斯所言，我们必须确保AI的创新带来普惠发展，防止造成新的社会分层。只有这样，我们才能在享受技术便利的同时，避免其潜在风险，共同构建一个更加安全、公平的未来。