AI合成企业家吐槽视频引争议：技术发展与隐私安全的博弈

AI合成企业家吐槽视频引争议：技术发展与隐私安全的博弈

引用

CSDN

等

12

来源

1.

https://blog.csdn.net/m0_75126181/article/details/143152165

2.

https://www.secrss.com/articles/65164

3.

https://www.sohu.com/a/854754899_121798711

4.

https://finance.sina.com.cn/jjxw/2024-10-28/doc-incuacvi9866311.shtml

5.

https://www.secrss.com/articles/73681

6.

http://www.news.cn/fortune/20241028/86ab5c335ecd40098d01f73e50aaa75c/c.html

7.

https://www.jingtian.com/Content/2024/09-30/1126258403.html

8.

https://www.cnblogs.com/Agora/p/18533798

9.

https://news.dayoo.com/society/202410/28/140000_54738375.htm

10.

https://www.forwardpathway.com/149954

11.

https://www.lang123.top/blog/008-langlang-tts-yinsi/

12.

https://www.junhe.com/legal-updates/2523

近日，短视频平台上涌现大量知名企业家吐槽的视频。在视频中，某知名企业家对堵车、调休、游戏等热门话题进行了调侃和锐评，甚至还有不雅词汇穿插其间，引发网友热议。然而，这些视频并非企业家本人发声，而是由网友利用AI软件生成的配音。

这种AI语音合成技术已经发展到令人震惊的地步。据报道，只需打开相关软件，上传任意人物的一段音频作为训练素材，AI就能克隆出该人物的声音。其他用户只需输入文本，便可以使用该声音生成内容。有记者亲身体验发现，生成一条与该企业家声音相似度极高的AI音频仅需20秒。

这种技术的滥用引发了广泛质疑。一方面，它侵犯了公众人物的个人权益。根据北京互联网法院的判决，AI生成的声音如果与自然人声音具有高度一致性，能够引起一般人产生与该自然人有关的思想或感情活动，就可能构成对其人格权的侵犯。另一方面，这种技术可能被用于恶意目的，如电信诈骗、散布虚假信息等，严重威胁社会安全。

事实上，AI语音合成技术的潜在风险早已显现。2022年，美国和加拿大就发生了一系列利用AI合成声音实施诈骗的案件，涉案金额高达1100万美元。在司法领域，伪造语音也使得语音证据的公正性和可信度面临前所未有的挑战。

面对这些挑战，国家网信办于今年9月发布了《人工智能生成合成内容标识办法（征求意见稿）》，明确提出提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。这表明，法律法规和治理手段正在努力跟上科技发展的步伐。

然而，要真正解决这些问题，还需要多方共同努力。AI语音应用工具提供方需要强化对源头素材的把控和对生成内容的监管；传播平台应建立甄别和追踪机制；公众也需要提高对AI合成内容的辨识能力。只有这样，我们才能在享受AI技术带来便利的同时，避免其被滥用，确保科技向善发展。