杭州电子科大&移动联手，AI鉴伪黑科技曝光骗子真面目
杭州电子科大&移动联手，AI鉴伪黑科技曝光骗子真面目
2024年9月，杭州公安通报了一起利用人工智能技术侵犯公民个人信息案件：有不法分子使用人工智能换脸大模型突破头部平台人脸认证，窃取用户隐私信息。这起案件再次敲响了AI安全的警钟，也凸显了AI鉴伪技术的重要性和紧迫性。
创新技术：从被动检测到主动防御
杭州电子科技大学网络空间安全学院副教授乔通带领团队，开发出了一种可扩展通用对抗性（SUA）水印技术，将AI鉴伪从“被动检测”提升到“主动防御”新阶段。
传统的AI鉴伪技术主要依靠事后鉴别，即在AI生成内容传播后进行检测和识别。这种方法虽然有效，但难以及时遏制伪造内容的传播，且需要消耗大量算力。而乔通团队的SUA水印技术则实现了事前防御，通过在需要保护的视频、图像或语音素材中嵌入特殊水印，当这些素材被用于AI加工时，水印会触发“引信”，直接破坏生成后的内容。
这一技术突破的关键在于SUA水印的通用性和可扩展性。与以往单个水印只能针对一种模型不同，SUA水印无需基于所有伪造模型进行重新训练，就能有效防御多种AI伪造手段。大量实验证明，这种水印不仅能节省算力，还能显著提高主动防御效果。
实际应用：为金融安全筑起防火墙
在金融领域，AI鉴伪技术的应用尤为迫切。乔通团队与多家金融机构合作，将AI鉴伪技术应用于人脸识别系统，开发出一套能秒速级识别AI图像及视频的鉴伪系统，准确率高达95%以上。
针对银行等金融机构的人脸活体检测环节，乔通团队建议增加一道无形的核验环节。这套系统不仅能快速识别出AI生成的虚假图像和视频，还能给出详细的分析报告，帮助金融机构及时发现和阻止潜在的欺诈行为。
值得注意的是，相比大型银行，地方中小银行在防伪技术投入上相对不足，但风险管控的重要性不容忽视。乔通团队正与地方公安、小型金融机构合作，开发定制化技术，为这些机构装上“火眼金睛”，提升其风险防控能力。
未来展望：商业化前景广阔
面对日益严峻的AI安全威胁，乔通团队正积极与企业对接，探索商业化模式。他们开发的AI鉴伪技术已应用于中国移动自动化PS鉴伪服务等多个实际场景，显示出良好的市场前景。
在乔通看来，AI鉴伪和深度伪造是此消彼长的关系。随着AI技术的快速发展，深度伪造手段也在不断升级，这要求AI鉴伪技术必须持续创新和突破。他呼吁更多机构和企业参与进来，共同推动AI鉴伪技术的发展和应用落地，筑牢AI时代的网络安全防线。
当前，基于AI的深度伪造欺诈已暴增3000%，基于AI的钓鱼邮件数量增长了1000%。面对这一严峻形势，杭州电子科技大学乔通团队的AI鉴伪技术为我们提供了一个有力的应对方案。通过变被动为主动，这项技术不仅提高了鉴伪效率，更为金融机构和个人用户筑起了一道坚实的安全防线。随着技术的不断成熟和商业化应用的推进，我们有理由相信，在不久的将来，AI鉴伪技术将成为守护网络安全的重要力量。