AI深度合成对网络安全提出更高要求 上市公司多措并举筑牢“防火墙”

AI深度合成对网络安全提出更高要求 上市公司多措并举筑牢“防火墙”

随着AI技术的快速发展，AI合成应用的门槛不断降低，这使得利用AI深度合成伪造音视频成为威胁网络安全的新案例。近期，这一趋势在二级市场上也有所体现，相关网络安全上市公司的股价出现攀升。自1月17日至2月17日收盘，天融信科技集团股份有限公司和任子行网络技术股份有限公司等企业的股价区间涨幅均超过30%。

广州眺远营销咨询管理有限公司总监高承飞指出，人工智能技术在带来便捷与创新的同时，也给网络空间带来了新的安全挑战。合成音视频的深度伪造、误导性信息的传播等问题频发，使得个人、企业和政府对网络安全的需求大幅增加，同时也对网络安全技术提出了更高的要求。需要各方共同努力，多管齐下，筑牢网络安全“防火墙”。

天融信副总裁、中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧表示，当前有很多开源软件和工具可以实现换声换脸的效果，这些工具可供网民自由下载并在个人电脑上安装使用。若AI合成的他人肖像未经当事人同意，且该合成内容被用于商业或公开场合传播，可能构成侵犯肖像权。AI合成音视频可能被不法分子利用，还将成为犯罪的“帮凶”。

近年来，我国对人工智能生成合成行为的法律法规不断完善。2022年11月，国家互联网信息办公室、工业和信息化部、公安部联合公布的《互联网信息服务深度合成管理规定》明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。

北京市京师律师事务所合伙人卢鼎亮表示，针对AI克隆技术等新兴领域，还需要进一步细化相关法律条款，明确侵权行为的定义和责任，加强执法力度，形成有效威慑。网络安全是一个系统性工程，需要政府、企业等在政策、法律、治理、技术等层面共同发力，包括引导资源向网络安全领域倾斜、加大网络安全方面投入等。

根据中国网络安全产业联盟的统计，2022年我国网络安全市场规模约为633亿元，2025年有望超过800亿元。A股多家上市公司深耕网络安全市场，包括天融信、杭州迪普科技股份有限公司、奇安信科技集团股份有限公司、三六零安全科技股份有限公司、深信服科技股份有限公司等。面对AI发展带来的网络安全市场扩容，这些上市公司积极加码布局，并且高度重视AI技术在网络安全中的运用，利用AI技术来检测跟对抗AI。

天融信于2014年成立AI研究团队，开启网络安全领域的机器学习、深度学习、自然语言处理等人工智能技术研究和应用。公司在2023年发布了自主研发的天问大模型，并陆续发布了基于天问大模型的产品小天、云上小天、天问大模型系统等AI智能体，应用于公司防火墙、数据库审计与防护、漏扫等安全产品中。天融信方面表示，公司将持续优化AI技术在网络安全领域中的应用，持续研发AI系统自身以及AI算法、数据、模型的安全问题的解决方案，并且与合作伙伴共同推进量子加密技术为AI应用提供安全保障。

迪普科技积极探索“AI+安全”创新应用，强化AI技术对产品体系的赋能。公司基于不同的安全业务场景深度融合了多个通用大模型在网络安全领域的能力，经过增量预训练和调优，应用于安全运营、数据分类分级和敏感数据识别等场景，提升产品体系的核心能力，持续为用户的安全保驾护航。

深度科技研究院院长张孝荣表示，AI正在推动网络安全产业变革。一方面，大模型产品正在增多，AI可能被不法分子用来进行网络攻击，因此，针对AI的网络安全产品及服务将成为行业的主要竞争领域。另一方面，深度整合AI技术，能够大幅提升网络安全产品的水平，使其能够更快速、更准确地识别并应对各种网络攻击。利用AI技术不断创新和优化安全解决方案的企业，有望在未来的网络安全市场中占据领先地位。