生成式AI重塑电脑安全防护新趋势
生成式AI重塑电脑安全防护新趋势
生成式AI正在以前所未有的速度改变着我们的生活和工作方式，但与此同时，它也给网络安全带来了前所未有的挑战。麻省理工学院工程系统教授Stuart Madnick警告称，随着生成式AI的普及，网络犯罪者发动物理攻击的概率正在增长。这些攻击不仅可能导致系统离线，更可能引发物理爆炸等严重后果。
生成式AI：安全威胁的新利器
美国联邦调查局（FBI）局长Christopher Wray近日向国会发出警告，称外国黑客已深入美国的网络基础设施，试图对供水处理计划、电网、交通系统等关键基础设施发动攻击。这些攻击一旦得逞，可能导致严重的物理破坏，甚至造成人身伤害。
安全厂商Lacework的首席信息安全官Tim Chase指出，美国许多基础设施仍然依赖几十年前的遗留系统，这些系统的保护措施非常薄弱。AI的出现使得这些漏洞更容易被利用，攻击频率可能会因此增加。
更令人担忧的是，生成式AI正在降低攻击门槛。Chase表示，AI为“中等水平的黑客”提供了提高攻击技能的工具，使得那些缺乏技能和耐心的人也能轻易攻击工业控制系统。
生成式AI：重塑安全防护的新力量
面对生成式AI带来的安全挑战，传统的防护手段已经显得力不从心。幸运的是，生成式AI本身也为安全防护提供了新的可能性。
中国工程院院士吴世忠在ISC.AI 2024第十二届互联网安全大会上指出，生成式AI的安全研究涉及四大方向：理论研究、技术研究、政策和伦理研究以及实际应用研究。其中，技术研究主要围绕对抗样本、监测与防御、证明与验证等方面展开。
国际数据公司（IDC）发布的《生成式AI推动下的中国网络安全软件市场现状和技术发展趋势，2024》报告显示，生成式AI在网络安全中的应用主要集中在安全运营、应用安全、数据安全、风险/暴露面管理以及安全合规五大方向。预计到2025年，中国40%的2000强企业将在其安全运营中心部署生成式AI，以辅助高级分析师进行检测和响应工作。
IDC中国网络安全市场高级研究经理赵卫京表示，生成式AI对于提高网络安全技术能力的影响是革命性的。它不仅能够提升威胁检测效率，还能实现智能策略编排，显著提高人效。在企业级用户中，终端安全和身份管理作为市场中的刚需，将继续展现强大的产品发展力。零信任网络访问解决方案因其“永不信任、持续验证”的理念，受到众多用户的青睐，市场正处于高速发展期。
政策引领：平衡发展与安全
面对生成式AI带来的安全挑战，国家高度重视人工智能安全发展，逐步完善相关政策法规。国务院印发的《新一代人工智能发展规划》提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施，旨在构筑人工智能发展的先发优势，加快建设创新型国家和世界科技强国。
在算法治理方面，国家相继出台了《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等政策。针对人工智能合成技术的快速突破，还出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定。
专家建议，推动人工智能产业快速发展，要把保障数据安全放在突出位置。国家信息中心信息化和产业发展部主任单志广指出，数据是数字经济时代的关键生产要素，保障数据安全是促进人工智能安全发展的重要基础。据统计，我国2022年数字经济规模已逾50万亿元，占GDP比重达41.5％，数据量呈现爆发式增长态势。
然而，人工智能产业快速发展过程中也显现出数据安全领域的风险挑战。例如，神经网络具有“黑盒”特点，导致人工智能存在不可解释性；深度学习对训练样本过度依赖，导致学习结果的不可判定性；神经网络前向推进的不可逆，导致结果的不可推论性。此外，漏洞、后门等引发的问题交织叠加，使得人工智能应用系统的数据安全问题变得更加复杂。
针对IT行业领导者进行的一项关于ChatGPT等大模型的调查显示，安全性是受访者最关心的问题，71％的受访者认为生成式人工智能会给企业的数据安全带来新的风险。为了防止敏感数据外流，微软、亚马逊等科技公司已相继限制或禁止其员工使用生成式人工智能工具。这表明，全面加强人工智能数据安全保障体系和能力建设已成为应对新形势新挑战的必然之举。
未来展望：机遇与挑战并存
生成式AI正在重塑电脑安全防护的新趋势，这既是一个充满机遇的时代，也是一个充满挑战的时代。面对生成式AI带来的安全威胁，我们需要加强安全研究，构建可信的人工智能自身安全，确保运行安全的人工智能攻防安全，同时落实治理负责任的人工智能伦理安全。
正如吴世忠院士所言，人工智能的应用极大地改变了安全问题的内涵和外延。我们需要在Security（既有安全）、Safety（新兴安全）和Ethics（伦理安全）三个维度上构建全新的安全图景。这不仅需要技术创新，更需要政策引导和伦理规范的共同作用。
在技术创新方面，我们需要加强安全风险、安全防护、安全攻击、安全测评和安全治理等五个领域的研究。在政策引导方面，需要制定合理的法律法规，建立伦理准则，推动国际合作。在伦理规范方面，需要确保AI系统的透明度、公平性、隐私保护和责任归属等问题得到妥善解决。
生成式AI的安全问题是一个全球性议题，需要全球共同努力。我们既要看到生成式AI带来的安全挑战，也要看到它在安全防护中的巨大潜力。只有通过持续的研究和创新，我们才能在保障安全的前提下，充分发挥生成式AI的潜力，推动其健康发展。