深圳警方揭秘AI换脸骗术，教你防诈
深圳警方揭秘AI换脸骗术，教你防诈
近日，深圳警方成功捣毁一个利用AI换脸技术进行敲诈勒索的犯罪团伙，抓获10余名犯罪嫌疑人。该团伙通过收集被害人照片信息，合成不雅照片进行敲诈。目前，案件已进入司法程序。
这起案件再次敲响了AI换脸技术安全风险的警钟。AI换脸技术，即通过人工智能算法实现人脸替换，其核心原理基于深度学习和计算机视觉。具体步骤包括面部检测、特征提取和图像合成等。目前，该技术已发展到可以实现实时视频换脸，达到以假乱真的效果。
然而，随着技术门槛的降低，AI换脸技术正被越来越多地用于非法用途。例如，有不法分子通过AI换脸、合成人声等技术手段，将名人的面容与声音用于直播带货，甚至制造虚假视频进行诈骗。据统计，基于AI的深度伪造欺诈在2023年激增30倍。
面对日益严峻的AI换脸技术滥用问题，专家建议采取以下防范措施：
提高个人隐私保护意识：不要轻易在网上分享个人敏感信息，特别是身份证照片、手持白纸照等可能包含个人信息的照片。
视频通话验证：在涉及转账等敏感操作时，可通过要求对方做出特定动作来验证真实性。例如，可以让对方快速大幅度地抬头、点头、转头，观察面部轮廓是否有异常模糊情况。
借助专业工具：利用人工智能检测技术来识别视频的真实性，判断是否有伪造的内容。同时，可以结合身份认证、数字水印等手段来加大伪造难度。
从管理层面，需要加快相关法律法规以及监管措施的制定和落实，来规范AI应用的使用方式和应用场景。目前，我国已经出台了《网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律法规。国家网信办起草的《人工智能生成合成内容标识办法(征求意见稿)》目前已完成社会意见征集，该办法出台后，将进一步加强对AI生成技术的约束和规范，督促服务提供者和网络平台承担起应有的法律责任。
此外，还应通过立法手段给AI技术应用套上法律缰绳。除了个人注意甄别和信息保护外，还应通过立法手段给AI技术应用套上法律缰绳。目前，我国已经出台了《网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律法规。国家网信办起草的《人工智能生成合成内容标识办法(征求意见稿)》目前已完成社会意见征集，该办法出台后，将进一步加强对AI生成技术的约束和规范，督促服务提供者和网络平台承担起应有的法律责任。
面对每天产出的大量视频，监管的难度相对较大，因此要从软件的研发和应用以及信息发布平台的监管方面入手，规范AI技术的使用。用户使用换脸服务需要充值，不同的充值费用获得的技术权限不一样。平台应该通过后台辨别用户换脸的目的、在何种场景下使用等，软件服务方或制作方也需要承担相应的监管责任。“比如用户在直播带货中换脸明星或公众人物，那一定涉及侵权。”王鹏举例说。
AI换脸技术是一把双刃剑，既带来了便利，也带来了风险。只有在技术创新与法律监管之间找到平衡点，才能真正发挥其积极作用，避免被不法分子利用。