福州市AI换脸诈骗案：法律如何应对？
福州市AI换脸诈骗案：法律如何应对？
2024年5月，福州市发生了一起震惊全国的AI换脸诈骗案。诈骗分子利用AI技术，仅用10分钟就骗走了受害者430万元。这起案件不仅暴露了AI技术可能带来的安全风险，也引发了人们对AI诈骗法律规制的深度思考。
AI换脸技术：从“魔法”到隐患
AI换脸技术的最新发展令人惊叹。最近，一款名为Deep-Live-Cam的AI换脸工具在社交网络上引发热议。这款工具的操作极其简单，只需要一张照片，就能在视频聊天中实时替换用户的面部信息。开发者João Fiadeiro在社交媒体上发布的演示视频显示，他不仅完美地复制了美国共和党副总统候选人J.D.万斯的五官特征，甚至连万斯标志性的神态、微表情都模仿得惟妙惟肖。
这种技术的实现依赖于深度学习和多个开源软件包。其中，Inswapper模型负责面部特征的提取和替换，而GFPGAN模型则用于增强生成图像的细节和清晰度，消除换脸痕迹。这些技术的结合，使得AI换脸效果达到了前所未有的逼真程度。
然而，这种技术进步也带来了新的风险。AI换脸技术可能被用于制作虚假视频、实施诈骗等不法行为。例如，在福州市的这起案件中，诈骗分子正是利用AI换脸技术，成功伪装成受害者的熟人，从而骗取了巨额资金。
法律规制：滞后与困境
面对AI诈骗的新型犯罪手段，我国现有的法律法规显现出一定的滞后性。主要体现在以下几个方面：
个人隐私保护不足：虽然《中华人民共和国数据安全法》等文件在数据安全维护方面发挥了一定作用，但在技术标准、信息保护范围、可行举措等方面还有待进一步完善。
网络黑灰产业认定困难：AI诈骗链条往往与网络黑灰产业联系紧密，但由于黑灰产业人员常以不知情、不知法等说法规避责任，给法律责任的精准追究带来挑战。
人工智能服务管理法律约束力不足：《中华人民共和国反电信网络诈骗法》和《生成式人工智能服务管理暂行办法》等法规虽然出台，但规制范围较为有限。
此外，AI诈骗的治理还面临技术要求高的挑战。诈骗分子利用先进的软硬件技术隐匿身份，发送转账指令，并通过情感要素设计增加欺骗性。这不仅使得侦查破案难度加大，还导致电子证据调取困难，内容真伪识别面临技术难关。
司法实践：从个案到启示
在司法实践中，AI换脸诈骗的刑事责任认定已成为一个亟待解决的问题。例如，在一起类似案件中，李某使用非法获取的个人信息，通过AI换脸软件登录被害人账户，更改支付密码并冒用银行卡资金。对于李某的行为，存在两种不同观点：
- 第一种观点认为，李某的行为构成盗窃罪，因为他在被害人不知情的情况下，破解人脸识别认证，非法占有他人财产。
- 第二种观点则认为，李某的行为构成信用卡诈骗罪，因为他是通过冒用他人信用卡的方式进行诈骗活动。
最终，法院采纳了第二种观点。理由是：李某虽然使用了AI换脸技术登录账户，但并未直接窃取银行卡或转移卡内资金。他的关键行为是通过AI换脸绕过验证机制，冒用他人身份发出支付指令，这符合信用卡诈骗罪中“冒用他人信用卡”的情形。
这一判决表明，在处理AI诈骗案件时，司法机关会重点关注行为人的具体作案手法和关键行为，而不仅仅是技术手段本身。
应对之道：多方联动，技术与法律双管齐下
面对AI诈骗带来的挑战，需要从多个层面采取应对措施：
加强专门立法：应不断完善与AI诈骗治理相关的法律法规，特别是在个人信息保护和人工智能技术应用方面，需要建立更加系统和全面的法律体系。
提升技术防范能力：开发和应用更先进的反欺诈技术，提高对AI合成内容的识别能力，同时加强对AI技术的监管，防止其被滥用。
加强行业合作：各行业应加强数据安全保护，避免用户信息泄露，同时建立跨行业协作机制，共同应对AI诈骗带来的挑战。
提高公众意识：普及AI技术知识和安全防范意识，让公众了解AI诈骗的手段和防范方法，提高自我保护能力。
AI换脸诈骗案件的频发，既是对技术发展的警示，也是对法律规制的考验。只有通过技术、法律和社会各界的共同努力，才能有效应对这一新型犯罪，保护公众的财产安全。