AI“复活”亲人与合成骗局的“神话”
AI“复活”亲人与合成骗局的“神话”
近日，著名音乐人包小柏在一次访谈中表示，“我的女儿又回来了。”2021年，包小柏的女儿年仅22岁，因病去世。一直无法走出失去女儿现实的他，近日利用AI技术，使女儿在数字世界“复活”。不仅可以唱歌，还能对话，在其妻子生日时，让AI“复活”的女儿唱了生日歌。
对此，有网友表示，“这就是AI存在的意义”“看哭了，瞬间理解流浪地球2数字生命存在的价值”……包小柏也感慨：“AI就是寄托思念的工具，也是一种对思念的表达方式。”
在大家感叹技术飞速进展的同时，3月1日晚刘德华公司连发两份声明，第一则声明表示部分网络主体假借刘德华粉丝会之名义开设小红书账号，并通过网络平台组建群聊，散布刘德华2024年演唱会相关不实信息；第二则声明郑重提醒各方人士提高警惕，避免落入此类AI语音合成技术的骗局。
声明相关内容在周末登上微博热搜，#怀疑对方AI换脸可以让对方摁鼻子#的科普话题也登顶热搜。另据媒体报道，用AI复活亲人已形成产业链，一单几千到一万元不等。一时间，AI技术发展的讨论在温情中也出现了争议。
“数字生命”延续的争议
“人的身体很脆弱，会受伤、会生病、会衰老、会死亡，但数字化的人，理论上可以实现永生。”2023年春节，《流浪地球2》一开场就对“数字生命”做了描述。
影片中创造的世界观中的一个想象，在现实中引起了人们的热议：数字生命会让人类获得永生吗？你愿意以“数字生命”的方式活下去吗？这些问题并没有明确的答案，就连“数字生命”理论上也没有统一的定义。
但进入生成式AI“狂飙”的2023，和逝去的亲人、朋友“再见一面”不再是科幻世界里才有的场景。
据公开报道，包小柏从2022年开始钻研AI技术并攻读相关专业博士，希望重现患病去世女儿生前声音。包小柏还曾透露，女儿在离世前因气切插管无法发声，他誓要用科技重现女儿的声音及影像，“我要给她一个最完美的形象、最完美的声音，让她在美轮美奂的数字世界，继续生存下去。”
事实上，用AI“复活”逝者的故事并不止包小柏。据悉，商汤科技在今年年会上利用数字人技术“复活”了已故的汤晓鸥教授，通过如影数字人技术，汤教授的脱口秀得以重现。
谈到《热辣滚烫》时汤教授一句“我还没看呢”，以及电视剧《漫长的季节》里一句台词“向前看，别回头”……引起网友在评论区表示“数字技术实现了汤教授某种意义上的重生。”“赋予汤老师数字生命，相信往生的人是以另一种形式存在，而数字人似乎让这个形式可以显现。”
另外，B站up主“吴伍六”前段时间用AI工具，生成了奶奶的虚拟数字人，在业内也引起了关注。视频中，数字人“奶奶”讲着流利的湖北的方言与up主对话。
当越来越多的人知道、接触用AI“复活”逝者，这项面向普通群众仍有较高门槛的“技术”，也在业内逐渐形成了产业链。
据《一条》独家报道，一位为普通人定制“AI数字人”的90后，一年内完成653个订单，平均一单几千元到一万元不等，有年轻人希望拥有偶像的数字分身，也有母亲找他“复活”癌症去世的孩子。
目前，在电商平台上，也有越来越多的商家退出AI“复活”亲人服务。在某宝上，价格低至5元，高至520元。在某店铺详情页，对产品介绍道，“本宝贝为定制，需根据具体要求制作视频，不同要求价格不一样。”
在“以另一种方式思念逝者”的烘托下，“数字生命”的延续似乎得到了大众的认可，甚至有人表示，“如果我去世了，会不会也有人用AI‘复活’我”。
值得注意的是，在今天#用AI复活亲人已形成产业链#的话题登顶微博热搜后，赞同的声音中，也出现了争议的说法。
有网友认为，沉湎于虚幻的过去，不如正视未来，将AI用在逝者身上会剥削死亡给周围人带来的痛感，使死亡失去意义，活着也会陷入无意义；也有人表示“质疑图恒宇，理解图恒宇，成为图恒宇。”图恒宇则是《流浪地球2》里刘德华的角色名，并直言希望大家在定制的时候擦亮眼睛，不要上当受骗。
警惕AI合成的骗局
AI技术飞速发展的另一面，也意味着不法分子，利用AI换脸换声的实施诈骗的门槛逐渐降低。
3月1日晚间，刘德华电影公司发布一则关于AI合成声音侵权事件的声明：近日，我司发现微信用户“华仔共享团”（微信号：KOH173）及其关联视频号“华仔集结号”通过信息技术手段伪造刘德华先生的声音，并在未经授权许可的情况下，于微信平台连续发布其剪辑拼凑视频，导致公众发生误认，从而达到利用刘先生的知名度吸引流量、售卖商品、从中营利的目的。该行为已严重侵害刘德华先生的肖像权、姓名权及声音权益，并涉嫌构成诈骗。
在声明最后，还郑重提醒各方人士提高警惕，避免落入此类AI语音合成技术的骗局。事实上，AI深度合成导致的案件从去年以来，已有不少。
近日，央视新闻报道的一起“AI换脸”诈骗案例中，陕西西安财务人员张女士与老板视频通话，老板要求她转账186万元到一个指定账号。转账之后，张女士按照规定将电子凭证发到了公司财务内部群里，然而出乎意料的是，群里的老板看到信息后，向她询问这笔资金的来由。
结果张女士和其老板核实，老板称并没有给他法国视频，也没说过这笔转载。意识到被骗的张女士连忙报警求助，警方立刻对接反诈中心、联系相关银行进行紧急止付，最终保住了大部分被骗资金156万元。
无独有偶，近期香港也披露了一起AI“多人换脸”诈骗案件，涉及金额高达2亿港元。经警方调查得知，这起案件中，所谓的视频会议中，只受害者一人为“真人”，其余所谓参会人员，全部是经过AI换脸后的诈骗人员。
在OpenAI发布Sora的演示视频后，业内惊讶AI视频行业一夜变天之余，也有许多人感叹，虚拟和现实的边界越来越模糊。
无论是国外的X、Facebook，还是国内抖音、小红书等社交平台，越来越多的数字人账号出现，尤其是AI颜值博主，“收割”不少粉丝，并通过带货实现商业化。
北京师范大学法学院副教授、中国互联网协会研究中心副主任吴沈括在接受媒体采访时分析，用AI冒充真人带货，是一种降低成本、简化流程、寻找变现路径的新方式。随着技术演进和商业模式的变化，用AIGC进行低成本逐利的行为会越来越多。
在今年年初，美国著名歌手Taylor Swift泰勒·斯威夫特（霉霉）的一组AI不雅照片在网络上疯传。这一事件还引发白宫回应，“我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”
事件逐渐发酵后，X平台（原推特）采取了史无前例的措施：官方阻止任何对泰勒·斯威夫特的搜索。随着AI合成技术，在平台上出现越来越多的“越界”案例，平台方也开始为AI设立规则。
目前，抖音采用了人工智能生成内容数据标准或元数据标准，便于其他内容平台进行识别。此外，平台还要求虚拟人主播的账号进行实名注册。小红书团队则向媒体表示，AI生成内容的真实度和扩散程度不断提高，平台主动的AIGC鉴别能力成为刚需。小红书通过数据去噪、数据增强等保证模型分类精度，不断提升技术手段、增强对AI生成内容的识别能力，对疑似AI内容生成的内容自动打上标识。
在咨询某“创意AI修复亲人”的销售人员时，其声称只做逝去的人怀念，拒绝人脸识别“会有人咨询能不能合作做人脸识别，但这并不符合我的初衷。”他说自己希望AI工具在不同的人手上都绽放的是光，也提醒每一个人警惕AI深度合成背后的骗局。
综合自21世纪经济报道、每日经济新闻等