当前AI监管法律的现状是什么?解析日本与欧盟的比较及对策要点

当前AI监管法律的现状是什么?解析日本与欧盟的比较及对策要点

随着AI技术的快速发展，其在商业场景中的应用越来越广泛。然而，AI技术在带来便利的同时，也带来了诸多风险和挑战，如隐私泄露、版权侵犯等。本文将从用户和提供者的角度，解释在哪些商业场景中需要检查法律规制，并重点介绍日本与欧盟在AI监管方面的法律框架。

像ChatGPT这样的生成AI已经成为了一个巨大的热潮。现在，被引入商业场景的生成AI被称为“第四次AI热潮”的引爆者。与此同时，全球范围内也在推进制定法律框架以规范AI。

本文将讨论与AI相关的法律，包括知识产权、个人信息等机密信息的适当处理等内容。

AI（人工智能）的定义与历史

AI（artificial intelligence，人工智能）在法律上没有一个严格的定义，存在多种不同的定义。以下是其中的一些例子。

来源 定义・解释
《广辞苑》 具备推理、判断等智能功能的计算机系统。
《不列颠百科全书》 科学技术 ＞ 计算机・AI。与智能存在相关的任务由数字计算机或计算机机器人执行的能力。
人工智能学会文章《作为教养知识的AI》 对于“什么是AI”的问题，答案并不简单。即便是AI专家之间也存在大量的讨论，这些讨论本身就足以编成一本书，观点各异。在这些讨论中，如果要提炼一个共通点并简单总结，那就是“通过机械工程技术实现与人类相同的智能工作的技术”。
学术论文《深度学习与人工智能》 AI是试图从构成论的角度解明人类智能机制的学科领域。
学术论文《追求人工智能社会的理想形态》 AI以及其他信息技术本质上是工具。

AI被认为是在计算机上复现人类智能能力的各种技术、软件群、计算机系统和算法。

作为主要的专业化AI，可以列举以下几种：

• 自然语言处理（机器翻译、句法分析、形态素分析、RNN等）
• 模仿专家的推理和判断的专家系统
• 从数据中检测和提取特定模式的图像识别、语音识别等

AI（人工智能）领域自20世纪50年代计算机的黎明期以来，一直在进行研究开发，第一次AI热潮持续到1970年代，主要研究“搜索与推理”，第二次AI热潮发生在1980年代，以“知识表示”研究为主，诞生了专家系统，形成了两次热潮的高潮。

进入21世纪后，随着大数据的出现，2012年以后随着Alexnet的出现，图像处理中深度学习（深层学习）的有效性得到了全球认可，研究迅速活跃起来，第三次AI热潮随之到来。

从2016年到2017年，引入了深度学习（深层学习）和强化学习（Q学习、策略梯度法）的AI相继出现。

第三次AI热潮的主要革命在于自然语言处理、通过传感器进行的图像处理等视觉方面，但也对技术开发、社会学、伦理学、经济学等领域产生了重大影响。

2022年11月30日，OpenAI推出的自然语言处理生成AI——ChatGPT作为万能工具受到广泛关注，生成型AI业务变得活跃。有人将这一社会现象称为第四次AI热潮。

应检查AI相关法律的商业场景

生成AI作为AI的一种，虽然是一个有用的工具，但同时也可能传播错误信息、助长犯罪，甚至有时候可能威胁到民主制度，这些风险不容忽视。

如今，这些AI所带来的风险已成为不可避免的挑战。因此，本文将从用户和提供者的角度，解释在哪些商业场景中需要检查法律规制。

使用文本生成AI

自从2022年11月ChatGPT推出以来，文本生成AI因能够处理复杂的请求而被全球视为提高工作效率和成本效益的万能工具。

然而，使用文本生成AI也带来了已知的风险。为了避免这些潜在的风险，我们必须注意哪些风险存在以及必须遵守哪些法律。

以ChatGPT为代表的文本生成AI存在一个风险，如果不采取任何措施，用户输入的信息（提示）可能会泄露。由于ChatGPT具有收集、保存和使用提示的功能，因此可能会泄露个人信息、企业机密信息以及通过签订保密协议（NDA）获得的机密信息等敏感信息。

此外，ChatGPT还可能产生特有的风险，如生成并传播错误信息（幻觉）、侵犯版权等。因此，对输出内容进行事实核查是必不可少的。

使用图像生成AI

在商业中使用图像生成AI时，必须考虑到存在侵犯版权的风险。

根据OpenAI的说法，由ChatGPT等生成的图像或文本的版权基本上归生成用户所有。用户可以出于任何目的（包括商业用途）使用ChatGPT等。

但是，在使用时需要注意以下几点：

ChatGPT的学习数据包含了大量公开于互联网上的内容，这些内容大多是版权作品（文本、图像、音乐、视频等）。因此，生成的内容可能会侵犯他人的版权。

AI开发与提供生成AI服务

AI业务涉及多种法律，全球范围内也在逐步建立法律框架，因此，在遵守现有法律的同时，也需要灵活适应新法律。

下一章将解释日本关于AI的法律以及2023年12月制定的世界首个国际性的欧盟《AI法规》。

日本的AI相关法律

当前，在日本，AI并未受到具有强制力的法律规制，而是采取自主规制的政策。本文将解释在利用AI时需要注意的现行法律。

参考：经济产业省｜「AI原则实践的治理指南 ver. 1.1」[ja]

著作权法

在2019年（平成31年）1月实施的「修正著作权法」中，新增了“信息分析”（该法第30条之4的1项2号）作为权利限制规定（无需许可的例外规定）。在AI开发或学习阶段进行的信息分析等，不以享受著作物所表达的思想或情感为目的的使用行为，原则上可以不经著作权人许可进行。

这一修正通过设立“信息分析”的定义，明确了包括AI的深度学习在内的机器学习也属于“信息分析”的范畴。

信息分析（指从大量著作物或其他大量信息中提取构成该信息的语言、音频、影像或其他元素的信息，并进行比较、分类或其他分析的行为）的使用情形

著作权法第30条之4的1项2号

另一方面，需要注意的是，如果使用AI生成的作品与他人的著作物存在相似性或依赖性，可能会构成著作权侵犯。

此外，如果将著作物作为ChatGPT的提示输入，则可能侵犯复制权等权利。使用生成型AI修改他人著作物的行为，也可能侵犯改编权等权利。

根据OpenAI的使用条款，通过ChatGPT创建的内容权利归用户所有，商业使用也是可行的，但如果内容是否构成著作权侵犯难以判断时，建议咨询专家。

如果不幸被著作权人指控侵犯著作权，可能会面临民事责任（停止使用、赔偿损失、赔偿精神损害、恢复名誉等法律措施）或刑事责任。

不正当竞争防止法

2019年（平成31年）7月1日，修正不正当竞争防止法实施。之前，对于不属于专利法或著作权法保护对象的事物，或不符合不正当竞争防止法“商业秘密”的事物，防止不正当竞争是困难的。

因此，这次修正规定了对一定价值的数据（限定提供数据）的不正当获取行为或不正当使用行为等恶意行为的民事措施（停止请求权、损害赔偿额的推定等）。

欧盟AI使用相关法律

欧盟的法律体系由三部分构成：一次法（条约）、二次法（欧盟立法）和判例。二次法是基于一次法（条约）制定的，直接或间接约束成员国的法律，被称为欧盟法（派生法）。二次法大致分为五类，而欧盟的“AI规制法”属于规则（Regulation），因此是直接约束欧盟成员国的统一规则。

另一方面，指令（Directive）要求欧盟各成员国根据指令（Directive）的内容，新制定或修改国内法，承担间接的法律义务。通常，期限定为欧盟官方公报发布后的3年内。

欧盟AI法规的主要内容

欧盟于2023年12月通过了《人工智能法案》（Artificial Intelligence Act，简称AI法案），这是全球首个针对AI的全面性法规。该法案将AI系统分为四个风险等级：不可接受风险、高风险、有限风险和最小风险，并对不同风险等级的AI系统提出了相应的监管要求。

对于高风险AI系统，法案要求其必须符合一系列严格的标准，包括数据治理、技术安全、透明度、人类监督、稳健性和安全性、保密性和个人数据保护等。此外，法案还要求高风险AI系统在投放市场前必须通过符合性评估，并在使用过程中持续接受监督。

值得注意的是，法案还特别强调了对生成式AI的监管。对于生成式AI，法案要求其必须明确标注内容为AI生成，并在必要时提供生成内容的标识符，以防止AI生成的内容被误认为是真实内容。

欧盟AI法案的通过，标志着全球AI监管进入了一个新的阶段。该法案不仅为欧盟内部的AI发展提供了明确的法律框架，也为其他国家和地区的AI立法提供了重要的参考和借鉴。