海淀法院宣判首例AI去衣案，深度伪造技术滥用存隐患

海淀法院宣判首例AI去衣案，深度伪造技术滥用存隐患

2024年5月，北京市海淀区人民法院审理了一起使用“AI去衣”软件制作淫秽物品案。被告人通过深度伪造技术，将他人提供的女性图片制作成裸体照片并贩卖牟利，同时出售“AI去衣”软件及使用教程。这起案件再次引发了公众对AI技术滥用的关注。

AI去衣技术主要依赖于深度学习算法，特别是生成对抗网络（GAN）。GAN通过生成器和判别器两个神经网络相互博弈，生成高逼真度的模拟图像。开发者利用大量图库数据进行训练，使AI能够“学习”不同衣物的形态及其在人体上的分布，从而推断出衣物之下的人体轮廓并生成相应图片。

AI换脸技术则通过深度学习算法分析源图像中的面部特征，并生成新的面部特征以适应目标图像。这个过程包括面部检测、关键点提取、面部替换和融合等步骤，最终实现将一个人的面部特征转移到另一个人身上。

AI去衣技术被不法分子用于制作淫秽物品，甚至威胁、诈骗。例如，贵阳市花溪区一女子的直播截图被上传到AI绘图软件，合成上身赤裸的照片；在某电商平台，多家店铺出售“AI换脸技术”“AI配音神器”等课程，售价从十几元到上百元不等，有店家暗示可以用来制作不当内容。

2022年11月，国家网信办、工业和信息化部、公安部发布《互联网信息服务深度合成管理规定》，明确禁止利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。任何组织和个人不得利用信息技术手段伪造等方式侵害他人的肖像权。

1. 完善法律法规：加快制定和完善相关法律法规，明确AI技术的应用范围和限制条件，为打击技术滥用提供法律依据。

2. 加强行业自律：AI技术企业和相关行业应建立自律机制，比如实施实名认证制度，限制敏感功能的使用，防止技术被用于非法用途。

3. 提升公众意识：加强公众对AI技术风险的认识，提高个人隐私保护意识，不轻易泄露面部等敏感信息。

4. 技术研发与监管：推动防伪技术、深度伪造检测技术的研发，同时加强政府监管，打击非法使用AI技术的行为。

AI技术本身是中立的，关键在于如何使用。面对AI去衣和换脸技术带来的挑战，我们需要在技术创新与道德规范之间找到平衡点。这不仅需要法律和技术的双重保障，更需要全社会共同努力，确保技术发展符合人类共同的价值观。