“卢某某录音”背后的AI声音克隆：技术革新与法律伦理的双重挑战

“卢某某录音”背后的AI声音克隆：技术革新与法律伦理的双重挑战

2024年9月，一则关于“卢某某录音”的新闻震惊了整个网络。合肥警方通报称，三只羊公司报警的涉卢某某音视频系AI伪造。犯罪嫌疑人王某某利用AI工具训练生成假冒卢某某的音频，并通过网络发布，形成谣言大量传播。这一事件不仅揭示了AI声音克隆技术的惊人能力，也引发了公众对这项技术的广泛关注和讨论。

AI声音克隆技术，也称为语音合成或语音复制，是机器学习和自然语言处理（NLP）的一个前沿领域。它涉及在录制的人声的庞大数据集上训练算法，以获取特定人的细微差别、语调和说话风格。经过训练，AI模型甚至可以在克隆语音中读取该人从未阅读过的内容。随着迁移学习和少镜头学习方法等技术的发展，语音克隆现在更容易获得和有效，并且需要的数据集要小得多。

在教育领域，AI声音克隆技术为教师提供了新的教学工具。例如，音乐教师可以使用AI生成历史人物的对话，让学生与亨德尔等音乐大师“面对面”交流，极大地激发了学生的学习兴趣。在娱乐领域，AI声音克隆技术被广泛应用于电影、广告等领域。例如，为已故的表演者再现声音，使电影制作人能够在演员去世后继续角色的遗产。此外，AI声音克隆还可以用于本地化电影、电视节目和视频游戏的配音，实现多种语言的流畅切换。

然而，AI声音克隆技术的快速发展也带来了诸多法律和伦理挑战。北京互联网法院审理的全国首例AI生成声音人格权侵权案，明确了AI生成声音的保护范围和认定标准。法院认定，在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。AI生成声音可识别性的认定应综合考虑行为人使用情况，并以相关领域普通听众能否识别作为判断标准。

AI声音克隆技术可能被滥用于制作虚假音频、传播虚假信息或进行欺诈。例如，电信诈骗分子可能利用AI技术冒充熟人实施诈骗。此外，未经他人同意使用他人的声音会带来严重的隐私和同意问题。北京市京师律师事务所律师许浩指出，自然人的声音也是人格权的一种，受民法典保护。任何人不得丑化、污损或者伪造他人声音，更不可以未经本人许可，模仿他人声音获利。

面对AI声音克隆技术带来的挑战，相关部门和网络平台已着手监管和规范。2022年11月，国家网信办等部门发布《互联网信息服务深度合成管理规定》，要求任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息；可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。2023年7月，国家网信办等部门发布《生成式人工智能服务管理暂行办法》，对生成式AI的训练数据处理活动进行了规范。2023年9月，科技部等10部门印发的《科技伦理审查办法（试行）》，列出了需要开展伦理审查复核的科技活动清单，其中就包括具有社会动员能力和社会意识引导能力的算法模型、应用程序及系统研发等。

AI声音克隆技术作为一项前沿技术，正在不断改变我们的生活和世界。它为我们带来了许多便利和可能性，但同时也面临着一些挑战和问题。未来，我们需要更加深入地研究和探索这项技术，充分发挥其潜力，并建立起完善的伦理规范来指导其发展和应用。只有这样，我们才能确保AI声音克隆技术能够在造福人类的同时，避免潜在的风险和危害。