DARPA启动2950万美元AI安全项目，引发全球关注

DARPA启动2950万美元AI安全项目，引发全球关注

引用

安全内参

等

7

来源

1.

https://www.secrss.com/articles/64485?app=1

2.

https://carnegieendowment.org/research/2024/07/governing-military-ai-amid-a-geopolitical-minefield?lang=en¢er=europe

3.

https://ciss.tsinghua.edu.cn/info/Opinions/7123

4.

https://www.dwqgbh.cn/news/a641c7ad1cf43dc9b3ead8c82188cf08/

5.

https://m.aitntnews.com/newDetail.html?newId=10411

6.

https://press.un.org/en/2024/gadis3757.doc.htm

7.

https://blogs.lse.ac.uk/businessreview/2025/01/27/the-global-pursuit-of-sovereign-ai-is-becoming-the-21st-centurys-arms-race/

2024年3月，美国国防高级研究计划局（DARPA）启动了一项名为“AI驱动的漏洞检测/修复挑战赛”（AIxCC）的大型竞赛项目，斥资2950万美元，旨在推动自动化漏洞发现和修复技术的发展。这一举动不仅展示了美国在军事AI领域的最新布局，也引发了国际社会对AI军备竞赛的广泛关注。

AIxCC挑战赛是DARPA在网络安全领域的重要布局，其前身是2016年的Cyber Grand Challenge（CGC）。本次挑战赛分为小微企业赛道和开放赛道，前者面向小微企业，后者面向所有参赛者。比赛将分为半决赛和总决赛，分别于2024年8月和2025年DEFCON大会上举行。

比赛的核心目标是开发网络推理系统（CRS），能够在没有人为干预的情况下自动发现和修复软件漏洞。参赛系统将从六大维度进行评估：软件规模、多语言适用性、漏洞类别、漏洞发现准确性、补丁有效性和补丁可接受性。评分规则涵盖了漏洞发现分数、程序修复分数、准确度因子和多样性因子等多个方面，以确保系统的全面性和实用性。

随着AI技术在军事领域的广泛应用，全球正面临一场前所未有的“AI军备竞赛”。卡内基国际和平基金会的研究指出，美国和中国在军事AI领域展开激烈竞争，中国提出“智能化作战”理论，美国则限制中国获取先进半导体。这种竞争态势不仅加剧了地缘政治紧张局势，也对国际和平与安全构成了潜在威胁。

欧盟作为重要的国际力量，也在积极寻求应对之道。研究建议欧盟应发挥领导作用，推动建立全球军事AI治理框架，以规范高风险AI应用，促进全球规范和伦理标准的形成。这表明，AI军备竞赛已成为全球性议题，需要国际社会共同努力应对。

清华大学国际安全与战略研究中心的研究指出，AI军事化可能对战略稳定构成重大威胁。该中心与布鲁金斯学会的联合研究项目就AI武器的目标识别、国际法遵从、训练数据和系统安全等问题进行了深入探讨。专家们普遍认为，需要建立共识和规则，以降低AI武器系统带来的风险。

研究还发现，AI武器系统可能引发一系列安全问题。例如，系统错误可能导致误判，增加冲突升级的风险；AI系统的自主性可能削弱人类对军事行动的控制；此外，AI技术的双刃剑特性意味着民用AI系统可能被轻易转化为军事用途，进一步加剧安全风险。

面对这些挑战，国际社会需要采取积极行动。首先，应建立多边对话机制，促进主要AI大国之间的沟通与合作。其次，需要制定具有约束力的国际规则，规范AI武器的开发和使用。最后，应加强AI安全研究，提高系统的可靠性和可解释性，降低技术风险。

DARPA的AIxCC挑战赛只是美国在军事AI领域布局的一个缩影。随着AI技术的快速发展，其军事应用带来的挑战日益凸显。国际社会需要共同努力，建立有效的全球治理框架，以确保AI技术的安全、可控发展，维护国际和平与安全。