AI“复活逝者”，引来伦理和法律的双重审视
AI“复活逝者”，引来伦理和法律的双重审视
AI“复活”技术近年来引发广泛关注。它通过人工智能算法，将逝者的文字、图片、视频和声音资料转化为数字形象，让人们有机会与逝者“对话”。然而，这一技术在带来情感慰藉的同时，也引发了隐私泄露、侵权等一系列法律和伦理问题。
视觉中国供图
AI“复活”技术如何运作？
王琴、王霜姐妹已步入知天命之年，年轻时远嫁他乡，至亲的离世成为她们内心难以抚平的伤痕。女儿晓晴在短视频平台上发现有商家提供AI“复活”服务，决定为母亲和小姨购买。她选择了第一种服务，即通过逝者的照片和声音，创作生日祝福或精神安慰的视频。在支付200元并提供了外婆生前的照片和录音后，她收到了一段视频。视频中，外婆栩栩如生，面带微笑，亲切地诉说着往事。王琴和王霜反复观看了数十遍，激动得泪流满面。
从频频引发热议的“复活”案例来看，AI“复活”主要分为两种形式：一种是以视频为媒介，通过逝者的照片和声音，创作生日祝福或精神安慰的视频；另一种是开发可对话的聊天机器人，不仅具备逝者的声音和外貌特征，还能模仿其性格和记忆，为客户提供个性化的体验。
AI“复活”产业链初现
随着AI技术快速进步，类似的“复活”服务正逐步进入普通民众的生活。2023年1月，通过全息投影、AI语音合成等技术合成的吴孟超院士AI“复原人”，在其追思暨安葬仪式上向追悼者提问互动；2023年3月，一位博主通过数字建模，生成了奶奶的“数字人”，一口湖北方言的“奶奶”和博主视频对话；近日，音乐人包小柏用AI“复活”22岁不幸离世的女儿，为母亲庆生。
记者搜索某视频平台，输入“AI复活亲人”关键词，可以见到至少数十个与之相关的账号，部分账号还公开招募学徒或代理。据了解，这些视频账号多半是代理商或AI视频制作者为吸引流量而设，运营主体多为公司或团队。要成为其代理，需一次性缴费980元，代理只需将客户的照片、音视频资料提交给上线，由上线负责完成视频制作。在费用收取方面，也有明确的定价体系。“早鸟价”分为198元、398元和598元三档，视频时长均控制在1分钟以内。价格越高，产品质量似乎更高，最高价套餐宣传其还原度可达90%左右。
法律风险与伦理困境
尽管AI“复活”非常吸睛并颇受欢迎，但这项技术也伴随着极大的风险。有专家提出，一旦被滥用或将带来侵害个人权益、数据隐私安全、传播虚假信息等诸多问题。
全国政协委员、金杜律师事务所高级合伙人张毅对此表达了担忧。在他看来，若这项技术被滥用，可能具有较多风险。其中之一，就是数据来源的侵权。“复活”技术需要以逝者的照片、声音等信息作为媒介，这就涉及逝者的肖像权、隐私权、个人信息等多种相关权益。
我国民法典第1019条规定，未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。个人信息保护法第28条、29条规定，生物识别信息（含声音等）属于敏感个人信息，处理敏感个人信息应当取得个人的单独同意。当然，逝者的个人信息如何保护，还需要进一步论证。
“法律除保护生者的人格权外，对死者的人格权亦加以保护。”河南言东方律师事务所主任闫斌表示，在没有经过逝者亲属等同意的情况下，用AI“复活”逝者的行为涉嫌侵权，逝者配偶、子女、父母有权依法请求行为人承担民事责任；若逝者没有配偶、子女且父母已经死亡的，其他近亲属有权依法请求行为人承担民事责任。
在数据处理过程中的法律风险方面，张毅谈到，虽然法律层面已经出台《互联网信息服务深度合成管理规定》（以下简称《管理规定》）等法律法规，对技术的应用进行了规制，但实践层面针对AI“复活”技术的行业资质与准入门槛尚待建立。
值得关注的是，AI深度合成的“成品”在使用过程中的违法和犯罪风险也要注意。举例来说，利用AI技术“复活”逝者后，经营者是否存在擅自使用“成品”进行未经同意的商业推广并牟利的行为？或者针对特定自然人“成品”的内容，存在委托人或特定关系人不认同的涉及侮辱、诽谤的内容，可能会构成刑法第246条中的侮辱或诽谤罪。
与此同时，在张毅看来，服务商对于深度合成的视频是具有标识义务的，需要在“成品”中向公众提示深度合成情况，法律依据是《管理规定》第16条：“深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。”但实际执行情况并不理想，反而曾出现过不少利用AI技术“成品”实施诈骗犯罪的案例。
“服务提供者不会也没有能力核实‘逝者’的身份信息，一些不法分子也可能以‘复活’之名行‘诈骗’之实。”中国科学技术大学网络空间安全学院教授左晓栋介绍，面对新的电信网络违法犯罪活动时，不熟悉网络应用的中老年群体更易成为受害者。
与此同时，AI“复活”也可能衍生新型法律纠纷。“不排除有人会借AI‘复活’来伪造逝者遗嘱或做出其他违背逝者意愿的事。”王新锐提出，如有近亲属利用这项技术伪造音视频遗嘱，或将耗费更多时间和人力成本来验证真实性，甚至造成对司法鉴定的一定挑战。
值得关注的是，除了法律风险，AI工具使用者们还面临着网友们的“道德审判”。在中国社科院哲学所科技哲学研究室主任段伟文看来，AI“复活”这项技术的应用当前还面临不少“伦理困境”，最核心的当属对人类生命观提出了挑战。
段伟文列举说，比如涉及生命尊严诸多问题：一个真实的人可不可以被复制？谁可以授权去“复活”一个人？这项服务的经济效益和相关责任之间的冲突怎么界定？是否要把它当成一种新的生命形式？
中国科学院自动化研究所人工智能伦理与治理中心主任曾毅还谈到了其他隐患，比如说拥有数字逝者的时候，会不会使得人长期沉迷于与数字逝者之间的交互往来，从而对心理产生非常负面的影响。
“这是数字逝者这项人工智能的应用技术，可能给社会带来的长期潜在的隐患，也是我们是否应当开发这样的人工智能技术必须去思考的伦理道德的问题。”曾毅说。
如何规范AI“复活”技术？
不可否认的是，我们正处在一个人工智能技术快速发展和迭代的时期。AI工具不仅不断冲击着人们的认知，也让这些工具的认知门槛降低。或许在不远的将来，“数字生命”真的可以成为现实。但人们也不得不考虑一个问题：如何化解可能面临的法律风险？又该如何监管，以防止这一技术的过度滥用？
首先，AI“复活”技术的应用，应严格遵守知情同意原则，在网络传播过程中不侵犯他人利益。现实中，AI“复活”当前还存在技术、素材等局限，但是这一正处于萌芽阶段的技术和商业模式，已经向现有标准与规范提出挑战。
对此，中国政法大学数据法治研究院教授张凌寒介绍，目前我国已有相关的规定。2023年1月生效实施的《管理规定》中，对通过人工智能技术生成合成数字人、使用他人生物识别信息合成数字形象等服务，都有相关的规定。
“根据这些规定，如果要生成他人的换脸、换声或者合成他人形象，应该得到当事人的单独同意。这也与我国个人信息保护法的相关规定是一致的，因为这些生物识别信息构成了敏感个人信息。”张凌寒说。
不过，目前从事技术“复活”的机构资质、AI“复活”发起方的权责、数字形象的技术应用边界、“数字人”产品的监督机制等许多问题，亟待解决。
在中国传媒大学文化产业管理学院法律系主任郑宁看来，制作方在利用AI技术数字“复活”逝者后，可能需要承担一些法律责任。因此，为保障逝者的人格权益，制作方只有经过逝者继承人的同意，才能进行相关“复活”操作。
另外，业内人士提出，在数据处理过程中，要更注重隐私保护和数据安全。2023年，国家网信办、国家发展改革委、教育部等七部门联合发布《生成式人工智能服务管理暂行办法》（以下简称“办法”），进一步明确了生成式人工智能的行业发展规范。办法规定，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。
其次，不少专家提出，AI“复活”产品应恪守技术管理规范，加强内容“标识”。张凌寒谈到，无论这项技术如何发展，有一点应该明确，即仅限在怀念的场景下使用，不得与他人产生互动或者在公共场所传播，避免发生欺诈。因此，法律也要求生成合成的音视频，必须作出显式标识和隐式标识，避免公众混淆。
郑飞也认为，应比照人工智能在学术研究中的“披露性”原则，还应建立深度合成内容标注机制。“以显著、明确、无异议方式对虚拟数字人作出特别标注，让用户清楚知道其属性。”郑飞强调。
与此同时，左晓栋等专家表示，根据有关规定，相关技术服务提供者必须对“生成内容”进行“标识”；在已有原则性要求的背景下，可出台相关行业标准，要求相关技术服务提供者在生成式内容中添加“水印”，防止不法分子借用该技术实施违法犯罪活动。
专家还建议，要进一步落实相关平台的主体责任，处置借AI“复活”概念不当牟利的不法商家。实际上，我国已经出台了《管理规定》《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查办法（试行）》等，为人工智能治理搭建了基本的规范体系，为行业规范划定了一些“红线”。
值得一提的是，虽然人工智能技术在我国兴起的时间不长，但此类规定的出台相对及时。不过，郑飞也谈到，这些“红线”或失之于宽、或失之于软。“失之于宽表现为缺少明确可执行的正负面清单，现有规定过于宽泛化，难以有效界定行为的违法性；失之于软表现为当前针对人工智能治理缺乏上位法规定，现有规范法律强制力不足，宜尽快制定出台人工智能法。”
除了法律法规的完善，行业自律、平台监管也很重要。“立法通常是滞后的，尤其在新技术领域。”郑宁谈到，总体而言，科技发展的边界应该在维护社会法治、保护个人权益和确保伦理底线的前提下进行。数字“复活”技术的推广需要更多的监管和规范，既保证技术的创新，也要保障人类的价值和尊严。除此之外，可以通过“软法”比如行业标准、企业自律行为等，在实际操作中发挥规范作用。
上海大学法学院教授陈敬根同样认为，画出底线和红线的“硬法”固然不可缺位，但为了弥补立法的滞后性，当前在人工智能等新兴领域应提倡设立更多的“软法”，即通过行业协会、团体组织等自发制定的规则，产生集体约束力，由此在法律底线之上起到行业监管的作用。
上海政法大学教授张继红也建议，更加重视人工智能领域的行业自律，通过国家标准、行业标准引导产业发展，以场景化的标准指引企业做好人工智能合规工作。
“不能放任AI‘复活’变成一门没有规矩和底线的‘生意’，尤其要保护对新技术不敏感的中老年用户群体。”中国法学会消费者权益保护法研究会副秘书长陈音江指出，有关平台要帮助中老年用户群体辨别深度伪造技术，取缔不当得利的违法违规商家，尽可能减少技术滥用带来的社会风险。
法律界人士建议，有关部门对AI“复活”的需求和其衍生的产业链要保持关注、合理辨析，在现行法律法规基础上做好数据保护、涉诈犯罪风险预防等方面的监管。
除了法律风险，还存在诸多伦理道德问题。北京航空航天大学法学院副教授赵精武介绍说：“为了解决这类问题，科技部在2023年9月发布了科技伦理审查办法，那么通过建立一个科技伦理审查制度来预防科技伦理层面的风险，AI逝者‘复活’也在被规制的对象里边。”