【人工智能】AI 颠覆了网络安全，只有 AI 才能够反击
【人工智能】AI 颠覆了网络安全，只有 AI 才能够反击
人工智能工具正在彻底改变对手策划和实施网络攻击的方式，美国公司和政府机构是这些新攻击的主要目标。顶级研究和咨询公司Gartner 的一项调查显示，人工智能驱动的网络威胁是高级风险主管和经理最关心的问题。为了防御这些新兴威胁，我们必须求助于人工智能驱动的网络防御。
当前的网络防御形势严重依赖于根据过去的经验制定的规则。想想简单的“如果，那么”式编程：如果攻击者这样做，那么我们会采取此操作来阻止它。基于规则的网络防御通过快速识别企图的恶意活动、将其与已知攻击进行比较，并使用已知防御措施进行反击来发挥作用。
与人类不同，生成式人工智能可以创建几乎无限的攻击突变，旨在测试弱点并最终绕过网络防御。这些突变可能更长、更复杂，并探索全新的攻击媒介。传统规则集和掌舵的人类分析师无法足够快或足够清晰地识别这些独特的攻击，从而组建有效的防御体系。
更糟糕的是，威胁者可以使用构成许多网络安全系统基础的同一款商业网络防御软件来测试他们的人工智能。他们将人工智能工具部署在沙箱中，对商业软件和规则进行数千种不同的排列组合，以查看哪些因素会导致其崩溃。然后，他们将表现最佳的攻击释放到现实世界中，试图渗透企业系统、政府机构和关键基础设施——所有这些都在他们选择的时间和地点进行。
到目前为止，应对不断变化的网络环境的办法是分析、制定更多规则、添加更多工具、增加更多分析师来审查更多数据——所有这些都会增加成本——而对手仍然能够得逞。业界已经采用了纵深防御、零信任以及您能想到的每一项法规。这使得防御环境变得更加复杂，而没有解决潜在的漏洞：在某些任务上，人工智能比人类更快、更多样化。
解决方案很明确：必须用人工智能支持的防御来应对人工智能驱动的威胁。我们对人工智能引发的网络攻击的集体反应不能是更多基于规则、由人操作的网络防御。
人工智能网络防御系统将会是这样的
首先，基于人工智能的网络防御必须有一个人工智能对手来进行测试和训练。进攻型人工智能模型将能够比最优秀、训练有素的专业人士更快地发起攻击和躲避。在 Leidos 的开发过程中，我们看到我们的人工智能模型在训练有素的操作员构思、构建和执行一次攻击所需的时间内发起了一千次攻击。
人工智能产生的大量测试攻击将使防御性人工智能能够对数千个新生成的攻击样本进行分类和分析。利用这些前所未见的攻击，防御性人工智能可以在这些威胁在现实世界中发生之前创建新的网络防御。这不是异常检测或识别过去攻击的模式——那是老套的做法。该系统将能够识别和防御从未发生过的威胁。
经过训练后，人工智能网络防御系统可以作为副驾驶与人类操作员一起部署，并嵌入现有的专业配置的防火墙中。
由此产生的防御者 AI 将带来决定性的防御优势——防御系统现在拥有一些随着时间推移而发展的东西，并且对手无法购买来测试。
这不是一个理论讨论。Leidos目前已在其网络上使用实际流量部署了此功能。
人工智能改变了游戏规则，我们也必须随之改变。我们唯一能够抵御人工智能被用于邪恶目的的方法就是利用人工智能的优势进行自我防御。