智能化应用引发网络安全新风险，院士吴世忠提出应对之策

智能化应用引发网络安全新风险，院士吴世忠提出应对之策

在数字化与智能化加速推进的当今社会，网络安全面临着前所未有的挑战。中国工程院吴世忠院士在第三届北外滩网络安全论坛上发表主旨演讲，深入剖析了智能时代网络安全的新挑战，并提出了应对之策。

2024年12月5日，中国工程院吴世忠院士在第三届北外滩网络安全论坛上，以“智能时代网络安全的新挑战与应对”为主题，发表了深刻的主旨演讲。吴院士指出，随着技术的不断进步，网络安全的复杂性与日俱增。在数字化与智能化加速推进的当今社会中，面对新形式的安全挑战，我们必须及时应对和规避潜在风险。

网数智全面转型带来安全新挑战

吴世忠院士指出，人工智能的迅猛发展，正以前所未有的速度深刻改变我们的生活，同时也引发了新的安全挑战。首先，随着科技的进步，从IT驱动到DT驱动，再到最新的AI驱动，网络安全的范式正在经历一场深刻的变革。大数据和人工智能技术的出现，使得安全景观完全重塑，过去的安全措施已无法满足现代安全的需求。

其次，科技新浪潮带来的非对称性、自主性和泛在通用性特征，使得技术发展的速度和复杂性远远超出我们的预期。这种情况下，如何因势利导，利用技术优势应对潜在的安全威胁，将是一个亟待解决的问题。吴院士强调，只有跟上技术发展的步伐，才能在未来应用中确保安全。

智能化深度应用拓展安全新风险

吴院士还指出，智能化的深度应用虽然带来了许多发展机遇，但随之而来的安全风险也愈加复杂。首先，技术本身的缺陷，如不可预测性和弱鲁棒性，可能导致技术失控。此外，应用过程中的算法攻击、数据泄露等问题，可能会直接影响到模型在现实中的应用效果。

更为严峻的是，人工智能的广泛应用可能冲击社会的基本秩序，例如可能引发的结构性失业和社会阶层分裂，以及形成“信息茧房”现象，都会对社会造成长远的影响。同时，国家监管的挑战也不容忽视，深度伪造和生化安全等问题都在国际层面上提出了新的治理难题。

高质量融合发展需要安全新作为

在谈到如何进行有效应对时，吴院士强调，人工智能作为一项两用性技术，必须加强安全研究，强化安全机制。他指出，安全研究的迭代速度必须与技术的发展同步，要突出重点，强化安全护栏，以保护经济和社会的发展。

同时，吴院士还提出，数据安全是确保模型有效性与可靠性的关键。加强数据保密工作，利用人工智能增强网络安全防护，以便更好地适应新形势下的网络安全需求，将成为未来的一项重要使命。

在这个智能化、数字化迅速发展的时代，吴世忠院士的演讲无疑为我们敲响了警钟。在享受技术红利的同时，我们需要保持警惕，认真思考潜在的威胁与风险。人工智能将在我们的生活中扮演越来越重要的角色，但同时我们也必须清醒认识到与之伴随而来的复杂安全问题。

相较于过去的安全管理模式，未来的网络安全需要行业与技术的密切结合，需要每个用户的主动参与与警觉。在日常生活中，关注网络安全，保护个人隐私，提升自身的信息安全意识，都是我们每一个人都应承担的责任。

本文原文来自搜狐