吴世忠院士：对智能时代网络安全的几点认识

吴世忠院士：对智能时代网络安全的几点认识

智能时代，网络安全面临着前所未有的挑战。中国工程院吴世忠院士在第三届北外滩网络安全论坛上的主旨演讲，围绕网数智全面转型带来的安全新挑战、智能化深度应用拓展的安全新风险以及高质量融合发展需要的安全新作为三个方面，深入探讨了数字化转型、智能化发展带来的安全挑战和应对举措。

一、网数智全面转型带来安全新挑战

吴世忠院士认为，人工智能以颠覆式的应用创新，正在全面推进新一轮的大国博弈和社会变革。具体表现在以下几个方面：

• 安全范式变化：大数据、人工智能等新技术颠覆安全景观，安全范式已经实现从IT驱动到DT驱动再到AI驱动的转变。
• 安全特性变革：颠覆性技术的非对称性、超级进化性、泛在通用性、自主性特征日益凸显，人类社会需要因势利导。
• 安全能力提升：统筹发展与安全既是发展之需，更是安全之要，要确保开发既实用又安全，并赢得公众信任的通用人工智能。
• 安全治理新举措：英国、澳大利亚、加拿大等国相继成立人工智能安全研究所，加强联合研究和标准制定。对此，我国专业机构建设、标准制定、安全评测等亟待强化。

二、智能化深度应用拓展安全新风险

当前的发展机遇前所未有，但是安全风险也呈现出多元复杂的特点：

• 技术自身缺陷问题：不可解释性、非事实性、弱鲁棒性、不可预测性等隐患可能引发技术发展失控。
• 推广应用的安全问题：包括算法攻击、隐私数据失窃密攻击、应用越狱、系统攻击等风险可能致使模型现实应用失灵。
• 冲击社会秩序问题：人工智能或引发结构性失业、社会阶层分裂和“信息茧房”效应，造成道德伦理失范。
• 国家监管和国际治理挑战：深度伪造风险、生化核爆风险、军事情报化风险，以及人类生存危机等，既给国家监管带来难题也向国际治理提出挑战。

三、高质量融合发展需要安全新作为

吴世忠院士强调，人工智能作为典型的两用性技术，客观上需要加强安全研究，有效管控重大风险隐患：

• 加强安全研究：要与时俱进，跟上发展。
• 强化安全护栏：要突出重点，保护发展。
• 重视数据安全：数据安全是确保模型好用，又用好的关键，因此要做好安全保密，服务发展。
• 转型升级：运用人工智能加强防护，强化网络安全防御，优化网络安全格局，支撑发展。

吴世忠院士提出，人工智能的两用性、迭代演化性、泛在通用性和自主性是网络安全行业需关注的重点。建议安全行业应与时俱进，加强安全研究，重视数据安全，建立网络安全保障体系，实现更智能的安全和更安全的智能。

本文原文来自SecRSS