涉密信息或被窃取，国家安全部提醒AI使用风险
涉密信息或被窃取，国家安全部提醒AI使用风险
近日，国家安全部发布重要警示：随着人工智能技术的广泛应用，个人隐私和国家安全正面临新的威胁。这一警示不仅揭示了AI技术在带来便利的同时所隐藏的风险，也提醒我们，AI安全已成为关乎国家安全和个人信息安全的重要议题。
AI技术带来的安全风险
AI技术在融入我们生活的同时，也带来了不容忽视的安全隐患。国家安全部指出，主要风险包括：
数据泄露风险：AI工具如对话机器人、文字创作助手等，会收集并存储用户输入的信息，可能导致个人隐私数据泄露。更严重的是，如果涉密人员使用这些工具，敏感信息可能被境外间谍情报机关收集利用，威胁国家安全。
虚假信息传播：AI可以快速生成大量高仿真度的文稿、图片和音视频，不法分子可能利用这些技术进行诈骗或传播虚假信息，误导公众，损害国家形象。
智能设备安全：智能家居设备和智能网联汽车等，如果被黑客攻击，可能泄露个人隐私、威胁财产安全，甚至危及国家安全。
钓鱼攻击升级：AI技术使网络钓鱼攻击更加隐蔽和复杂，重要行业和涉密单位更容易成为攻击目标。
信息茧房效应：AI推荐系统可能形成“过滤气泡”，使用户陷入信息茧房，甚至可能被境外势力利用进行舆论引导和意识形态渗透。
这些风险并非空穴来风。2024年3月，安全公司Oligo发现了一个针对AI计算框架Ray的大规模攻击事件。攻击者利用Ray框架的漏洞，成功入侵了数千台服务器，不仅篡改了AI模型，还窃取了大量敏感信息，包括OpenAI、Hugging Face等平台的访问令牌。这一事件持续了7个月之久，暴露出AI系统在实际应用中可能面临的严峻安全挑战。
如何防范AI安全风险？
面对AI技术带来的安全挑战，专家建议从多个层面加强防范：
提高安全意识：个人和组织应增强信息安全意识，谨慎使用AI工具，不随意输入敏感信息。涉密人员尤其要注意，避免在AI工具中处理涉密内容。
加强技术防护：采用AI安全工具，利用机器学习等技术提升威胁检测和响应能力。同时，要定期更新系统和软件，修复安全漏洞。
完善制度建设：建立健全数据安全管理制度，加强对AI应用的监管。对于重要行业和涉密单位，应制定更加严格的安全规范。
推进AI与安全融合创新：正如中国新一代人工智能发展战略研究院执行院长龚克所建议的，要推进AI与网络安全的融合创新，利用AI技术提升网络安全防护能力。
构建大安全格局：中央网信办网络安全协调局副局长王营康强调，要统筹各方力量，构建大网络安全工作格局，形成体系化防御能力。
结语
AI技术的发展是一把双刃剑，既带来了前所未有的机遇，也带来了新的安全挑战。国家安全部的警示为我们敲响了警钟，AI安全问题已迫在眉睫。只有通过技术创新、制度完善和全民参与，我们才能在享受AI带来的便利的同时，有效防范潜在风险，确保AI技术健康、安全地发展。