雷军、刘德华、靳东都深受其害！AI“换脸拟声”立法建议引关注

雷军、刘德华、靳东都深受其害！AI“换脸拟声”立法建议引关注

据了解，在去年国庆假期期间，网络上曾出现了大量利用AI技术捏造的雷军配音，这些所谓的"雷军语音包"内容五花八门，从吐槽假期到骂人，无所不包。

在今年的全国两会期间，小米集团的创始人雷军作为全国人大代表，提出了五项建议。其中，他特别关注了“AI换脸拟声”技术带来的挑战与机遇。雷军呼吁加快单行法的立法进程，以期在安全与发展的双重考量下，提升相关法律的位阶。

据了解，知名艺人刘德华、医学专家张文宏、演员靳东等公众人物也曾成为“AI换脸拟声”技术的受害者。有诈骗团伙利用“AI靳东”诈骗老年人钱财。例如2024年11月，江西一位老人来到银行办理银行卡，表示要到银行贷款200万元给自己的男朋友“靳东”拍戏，被警方及时劝阻。民警发现老人所谓的大明星“靳东”男友，是骗子利用电脑AI合成冒充的，而类似的利用“AI靳东”进行诈骗的案例屡见不鲜。在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。

全国政协委员、演员 靳东：很多喜爱我的影视剧的一些观众，他们因此被骗得很惨。这个性质很恶劣，我觉得今年通过政协，有这样一个提案，还是希望建立更好的规则。

志愿律师 刘浩：对于诈骗犯罪，我们国家一直是有法律规定的。因此，我认为可以通过最高法，通过司法解释，对于目前这种AI生成的人脸，这种相关名人的脸型也好，声音也好，如果构成对他人的肖像权、个人名誉的侵权，应当是有一个司法解释来予以规范的，便于法院在处理相应的问题时候能够有法可依。

社会学者姚华认为，立法监管不仅是对AI技术的约束，更是对它健康发展的一种保障。通过立法明确AI技术的使用范围和条件，可以让技术更好地服务于社会。

广西社会科学院社会学研究所所长 姚华：在真正的实施过程当中，随着AI技术的发展，可能我们更要关注在取证方面，在技术的变化和变形的过程当中，就很可能会产生一些我们难以预测的新情况和新问题，而我们的立法有可能会滞后于这些新技术的发展，所以怎样能够与技术同步进行，怎样防范这些新技术发展对社会和经济所产生的冲击和影响，我想会是下一步我们要关注的重点。