AI安全风险加剧，多措并举构建防护体系

AI安全风险加剧，多措并举构建防护体系

随着人工智能（AI）技术的广泛应用，网络安全面临着前所未有的挑战。从AI系统自身的安全漏洞到数据隐私泄露，从对抗性攻击到自动化网络攻击，各种安全威胁层出不穷。为了保护企业和个人的数据安全，我们需要采取多层次的安全防护措施，包括加强数据保护、提升模型鲁棒性、引入多层次防护机制以及教育员工提升安全意识。同时，关注最新的法律法规和行业标准，积极参与其中，共同构建一个更为安全的信息环境。

2024年3月，安全公司Oligo披露了一起针对AI工作负载的大规模攻击事件，涉及OpenAI、优步和亚马逊等公司使用的Ray框架漏洞。攻击者利用该漏洞，不仅篡改了AI模型，还泄露了访问内部网络和数据库的网络凭证，并在服务器上安装了加密货币挖矿软件。这一事件持续了7个月之久，凸显了AI系统安全配置的重要性。

Ray是一个用于扩展AI应用程序的开源框架，通常在大规模服务器集群上运行。其中央仪表板提供了名为“任务API”的编程接口，允许用户通过简单的HTTP请求向集群发送一系列命令，无需身份验证。这一设计在默认配置下存在高严重性的代码执行漏洞（CVE-2023-48022）。

尽管Ray的开发者和维护者Anyscale回应称该漏洞不存在，但这一事件仍暴露出AI系统在安全配置方面的不足。为应对类似威胁，组织应采取以下措施：

• 数据加密：对存储和传输的数据进行加密，防止未经授权的访问。
• 访问控制：限制对敏感数据的访问，仅允许授权人员访问。
• 定期安全审计：定期进行安全审计和漏洞评估，及时发现和修复安全隐患。

在AI时代，数据隐私保护显得尤为重要。根据数据隐私保护的最佳实践，组织应从以下几个方面着手：

• 制定数据隐私政策：明确数据收集的目的、存储方式、共享条件以及用户权利。
• 数据最小化原则：仅收集实现特定目的所必需的数据，定期审查数据收集实践。
• 强化数据安全措施：采取多层次的安全措施，包括数据加密、访问控制等。
• 员工培训与意识提升：定期对员工进行数据隐私和安全培训，提高他们的意识和技能。
• 监控与审计：建立监控机制，实时跟踪数据访问和处理情况，定期进行审计。
• 用户透明度与沟通：与用户保持透明的沟通，定期更新数据隐私政策。
• 合规性与法律要求：遵循相关法律法规，如《通用数据保护条例》（GDPR）和《加州消费者隐私法》（CCPA）。
• 数据生命周期管理：建立数据生命周期管理策略，定期审查和清理不再需要的数据。
• 应对数据泄露的应急计划：制定应急计划，以便在发生数据泄露时迅速响应。

在AI开发和使用中，特别需要注意以下几点：

• 模型训练数据的合规性：确保训练数据来源合法，符合数据隐私法规要求。
• 用户数据的匿名化处理：在模型训练和使用过程中，对用户数据进行匿名化处理，避免泄露个人隐私。
• 透明度和可解释性：提高AI系统的透明度和可解释性，让用户了解其数据如何被使用。

尽管AI带来了新的安全挑战，但其在网络安全防护中的应用也展现出巨大潜力。AI能够实时处理大量数据流，检测异常情况和潜在威胁，为关键基础设施提供强大的保护。

威胁检测与预防

AI系统通过分析网络流量和用户行为，能够实时识别异常情况并拦截恶意软件、勒索软件和网络钓鱼攻击等威胁。在关键基础设施领域，如化学、制造、能源、交通、医疗保健、供水和污水处理系统，AI能够处理来自复杂网络的海量数据，识别异常模式和潜在的安全漏洞。

安全防护自动化

AI可增强安全防护自动化和编排，简化对网络威胁的响应。智能系统能够自主调查警报、关联不同来源的数据并触发响应措施。这种自动化让人工安全团队能够专注于战略规划和复杂的威胁分析。

预测性维护

基于AI的预测性维护利用来自物联网传感器的数据预测设备故障，防患于未然。这既能减少停机时间和维护成本，又能提高安全性。

生成式AI：双刃剑效应

生成式AI在关键基础设施防护中具有双重性质。一方面，它有助于代码分析、漏洞发现和威胁情报整合；另一方面，攻击者也可能利用生成式AI发起复杂的网络钓鱼攻击、开发新的恶意软件变体或发现新的攻击向量。因此，关键部门必须采取积极主动的网络安全防护方法。

融合式网络AI：整体防御策略

为了有效应对AI威胁，关键基础设施组织正在采用“融合式网络AI”方法。该策略将AI功能集成到整个安全堆栈中，提高预测和缓解威胁的能力。借助AI原生架构，组织可构建强大的防御系统，保护重要系统和数据免受日益复杂的网络攻击。

中国在生成式AI领域采取了敏捷治理、小切口立法的路径，构建了较为完善的监管框架。2023年8月15日施行的《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）是全球首部专门针对生成式AI的治理法规，与《科技伦理审查办法（试行）》等共同构成了我国AI治理的初步法律框架。

大模型备案制度

《暂行办法》要求具有舆论属性或社会动员能力的、直接面向境内公众提供的Gen AI服务进行安全评估和备案。备案服务包括文字生成、图片生成、声音生成、视频生成等功能。对于通过API接口调用已备案大模型的Gen AI应用，采用登记方式管理。

算法监管

自2021年起，我国相继出台了《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等法规，形成了较为完备的算法监管体系。Gen AI技术开发者和服务提供者需依法履行算法备案等合规要求。

互联网信息服务及信息内容监管

基于Gen AI的“内容输入”和“内容生成”运行模式，在我国提供Gen AI服务一般构成“提供互联网信息服务”，需遵守《互联网信息服务管理办法》及相关规定。服务提供者应承担内容生产者责任，确保生成内容合法合规。

增值电信监管

根据《中华人民共和国电信条例》《电信业务经营许可管理办法》等规定，涉及信息服务业务、交易处理业务等的Gen AI服务可能需要取得相应的增值电信业务许可证。

科技伦理审查

《科技伦理审查办法（试行）》要求从事人工智能等科技活动的单位设立科技伦理（审查）委员会，对涉及科技伦理敏感领域的研究开展风险评估和审查工作。

数据合规

Gen AI全生命周期涉及复杂的数据合规问题，包括模型训练、应用运行和模型优化等阶段。相关主体需遵循《网络安全法》《数据安全法》《个人信息保护法》等基础性数据安全法律，确保数据处理活动合法合规。

AI技术的发展为网络安全带来了新的挑战，同时也提供了强大的防护工具。面对AI安全威胁，我们需要采取多层次的安全防护措施，包括加强数据保护、提升模型鲁棒性、引入多层次防护机制以及教育员工提升安全意识。同时，关注最新的法律法规和行业标准，积极参与其中，共同构建一个更为安全的信息环境。随着技术的不断发展，AI安全防护也需要持续演进，企业和个人应保持警惕，不断提升防护能力，以应对日益复杂的网络威胁。