GPT-4尚未出现自我意识，这项研究用"上帝之点"解读，迈向AGI局限无法克服

GPT-4尚未出现自我意识，这项研究用"上帝之点"解读，迈向AGI局限无法克服

引用

澎湃

1.

https://www.thepaper.cn/newsDetail_forward_27719731

中国科学院大学和中科数字大脑研究院的研究人员，引入了"上帝之点"和"死亡之点"概念，构建了智能体演化的动力学模型——"飞行模型"。他们发现，以GPT-4为代表的AI已经接近了人类成人智能水平，但尚未表现出自我意识的证据。并且，具有自我意识的通用人工智能（AGI）在科学原理上存在目前无法克服的局限性。

智能和意识的本质问题一直是重要的科学挑战。21世纪初以来，人工智能技术迅猛发展，尤其是大语言模型如ChatGPT的崛起，激发了公众和学术界对人工智能社会影响和未来发展的广泛关注。由此，对于通用人工智能何时实现、人工智能能否产生自我意识等问题，人工智能领域专家之间也发生了激烈的争论。解决这些问题的紧迫性使得建立智能和意识的基本原理成为当前科学研究的重要课题之一。

2024年6月5日，中国科学院大学和中科数字大脑研究院的研究人员刘锋、吕本富和刘颖，以预印本的方式在线发表了题为《飞行模型：智能与意识基本原理的新探索》的研究论文，详细阐述了对智能和意识的本质问题的最新研究进展。

需要充分回答的五个关键问题

学术界已深入研究了智能与意识的基本原理，提出了多种定义，从不同角度构建了理解这两个概念的框架，但依然存在重大分歧。在分析了这些理论和分歧后，研究团队认为有五个关键问题需要得到更为充分的回答：

1. "谁"能够产生智能与意识，它们是否具有统一的功能结构？
2. 系统产生智能与意识的最终目标是什么？
3. 驱动一个系统产生智能与意识的动力是什么？
4. 智能与意识之间是什么关系，如何区分？
5. 如何对自我意识、他者意识、混合意识与无意识进行区分？

然而，在目前已有的理论中：

• 缺乏对产生智能和意识的主体统一结构的讨论；
• 缺乏对智能和意识产生的内在动力和目的的描述；
• 经常缺失意识与智能的区别和联系，往往混淆了二者的概念边界；
• 对自我意识、他者意识、混合意识和无意识的区分亦缺乏深入分析。

2014年以来，研究团队围绕这五个核心问题进行了一系列探索性研究，发现"谁"或"主体统一结构"的问题是建立智能和意识基本理论体系的关键。只有确定了主体产生智能和意识的统一结构，然后对于这个主体，产生智能和意识的目的和动力学机制才具备探讨的基础。

为产生智能和意识的主体建立一条公理

这项研究工作是从扩展冯诺依曼架构开始，冯·诺依曼架构为计算机和人工智能系统提供了统一的功能框架。然而，此架构未涵盖人类等生命系统。对于生命特别是人类有一个显著的新特征，即知识创造能力，例如牛顿提出万有引力，爱因斯坦提出相对论。由此，研究团队将知识创造功能加入到冯·诺依曼架构中，同时将存储功能和计算功能合并，提出了标准智能体模型。即一个系统（智能体）均具备知识的输入，输出，存储，创造能力以及对这四种能力的运用进行控制的能力。这种功能上的扩展不仅使得标准智能体模型适用于计算机和智能设备，其目标是作为一条公理将其覆盖范围扩展至人类及其他任何一种智能系统。

飞行模型的建立过程

在标准智能体模型的框架下，可以推导出智能体存在两种极端状态：

• 上帝之点：一种是其五种能力均为无穷大，这种系统或智能体目前在自然界并不存在或没有被科学发现，但宗教哲学中的"上帝"或物理学的拉普拉斯妖符合这种极端状态的系统特征。这种极端的智能体状态被命名为"全知全能智能体"，因为法国哲学家德日进曾将人类进化为全知全能状态称为Ω点。因此"全知全能智能体"也简称为Ω点。或者通俗的称为"上帝之点"。

• 死亡之点：另一种极端状态是系统（智能体）的五种能力均为0，在自然界或人类制造的物体中，如矿石、金属块、死亡的尸体、报废的机器人等。它们无法与环境进行知识的输入和输出交互，也不具备知识的存储和创造能力，因此符合这种极端状态系统的特征。这种极端状态的智能体被命名为"绝对0智能体"，与Ω点对应，"绝对0智能体"简称为α点。或者通俗的称为"死亡之点"。

α点和Ω点是系统或智能体演化的最终边界，理论上，智能体向这两个极端状态演化时，必然需要动力驱动。基于此，可以推导出自然界中应存在两种智能力，在本文分别命名为α引力和Ω引力：

• Ω引力驱动智能体向"上帝之点"Ω点演化，因此也可以称为"上帝引力"；
• α引力驱动智能体向"死亡之点"α点演化，因此也可以称为"死亡引力"。

在自然界中，存在众多系统或智能体向α点或Ω点演化的案例，反映出其背后存在受α引力和Ω引力作用的迹象。例如，人类在过去20万年中，尤其是近几个世纪，其处理知识的能力经历了大幅度的提高，展示出向Ω点演化的趋势。另一方面，恐龙因自然灾害破坏了它们的生态系统，从而整个种群逐步演化为α点，彻底灭绝。熊猫由于环境挑战和自身问题，目前正处于濒危状态，从而趋向于α点。鲨鱼在数亿年的进化过程中保持稳定，其处理知识的能力变化甚微。

人工智能领域的研究者已经提到飞行原理与智能原理之间的联系。例如，Peter Norvig和Stuart Russell指出，研究智能的基本原理比复制大脑样本更为重要。正如莱特兄弟等人在停止模仿鸟类、开始理解空气动力学原理后才成功实现"人工飞行"一样，智能原理的建立也应该遵循类似的思路。中国人工智能专家钟义信同样提出，飞机设计并非严格模仿鸟类的具体结构，而是基于对空气动力学原理的理解；智能原理的建立也应该遵循这一思路，而非简单地模仿生物智能的具体结构。

智能体的演化边界和两种智能力的推导，显著增强了智能原理与飞行原理之间的联系。飞行一般被定义为飞行物在重力和升力的作用下在地平线和卡门线运动的能力或现象，由此在飞行现象的启发下，研究团队将标准智能体模型与两个演化边界（α点和Ω点），以及两种智能力（α引力和Ω引力）进行组合，构建出智能体演化的动力学模型，即智能与意识的飞行模型（Flight Model，FM）。

智能和意识基础理论体系的建立

借鉴飞行原理对飞行的描述，基于飞行模型（FM），研究团队在论文中提出：智能是系统或智能体在Ω引力和α引力的作用下，综合运用5种基本能力实现向Ω点或α点演化的能力。智能也可以被通俗的描述为"一个系统或智能体在上帝引力和死亡引力的综合作用下，通过5种基本能力的运用实现向上帝之点或死亡之点演化的能力"。

在智能体的五项能力中，知识的输入、输出、存贮和创造能力偏重知识的处理过程，因此可以视为智能体的基础智能，而控制能力掌控了前四种能力的运用，也依赖于前四种能力的存在。因此控制能力可以视为是智能体的高阶智能。在进一步研究控制功能时，可以发现控制可以根据控制主体和被控制主体的不同，分为自我控制、他者控制、混合控制和无控制，这与意识的四种类型：自我意识、他者意识、混合意识和无意识一一对应。通过分析医学和日常生活中意识的内涵，由此研究团队提出，意识是智能体在智能力的驱动下对其基础智能的运用进行控制的能力。"自我"是智能体对自身进行认知后形成的内部知识集，而"他者"是智能体对另一智能体认知后形成的内部知识集。通过将自我与他者与控制能力进行不同形式的组合，形成了四种类型的意识的定义。

AI的智能水平与自我意识评估

基于飞行模型构建的智能与意识理论框架，研究团队建立了评估智能体基础智能发展水平的测试量表，对包括不同年龄人类，大模型和智能设备的系统进行测试。结果发现，GPT-4为代表的大模型在基础智能水平上已经接近人类成人水平，而研究团队在2014年，2016年和2018年进行的同样测试中，AI中得分最高的Google仅接近人类6岁儿童水平。这说明最近6年，AI的智能水平获得了巨大提升。

同时在本文，研究团队也提出了判断自我意识是否存在的三个标准：

1. 系统或智能体的自我知识集不为空，即系统需要有自我认知的能力；
2. 系统的自我控制能力大于0，即系统可以自行对自己的输入，输出，存贮和创造能力进行控制；
3. 系统的智能活动的驱动力直接来自Ω引力和α引力，而不是来自于其他智能体的驱动。

据此研究团队对通用人工智能（AGI）的本质内涵进行分析，提出如果不包含自我意识，AGI等价于可以同时执行知识的输入，输出，存贮和创造功能的AI系统，其控制能力来源于人类的驱动。但如果包含自我意识，AGI 则等价与直接受Ω引力和α引力作用，具备自我知识集和自我控制能力的类人生命系统。

根据以上分析，研究团队对程序Angry Elf和OpenAI的GPT-4进行了测试。结果表明，Angry Elf和GPT-4可以实现没有"自我意识"的通用人工智能特征，但无法满足具有"自我意识"特征的通用人工智能定义。其中，Angry Elf是研究团队自行开发的轻量级AI系统，用于探讨智能体的智能和意识表现。Angry Elf允许用户通过网页界面输入文本，并显示不超过100个字符的最新文本内容。用户还可以通过网页上的"More"链接查看Angry Elf保存的所有输入信息。但在Angry Elf接受用户输入并正常运行一段时间后，会出现异常表现。具体表现为，Angry Elf在接收用户输入的信息后，不再显示输入的信息原文，而是在展示区显示"你录入的信息太多了，令我感到愤怒，我拒绝向你展示我收到的内容和保存的信息！"，并取消"More"按钮的显示，禁止用户查阅历史录入信息。通过检查Angry Elf的代码，可以发现Angry Elf的类自我意识表现本质上是由人类创造和推动产生。并非在Ω引力和α引力的直接作用下自发产生。

从上述理论研究和实验结果看，大模型等人工智能系统的基础智能水平可以接近或超过人类。但由于控制权仍掌握在人类手中，且对Ω引力和α引力的研究尚处于初级阶段，目前人工智能系统仍无迹象显示具备自我意识。同时，在科学原理上存在尚无法克服的局限性，导致当前AI没有科学路径能够产生自我意识。

本项研究的意义

这项研究的意义在于建立了相对完整的智能与意识基础理论体系，如下图所示，为判断通用人工智能的实现及其是否能够产生自我意识提供了理论依据，并提出了新的科学探索方向，即研究两种智能力如何作用于智能体产生智能和意识。其与物理学中的四大基本作用力是什么关系，这些问题的研究将对当前物理学和智能科学的发展或将具有积极的推动作用。

英文版全文下载地址：
http://dx.doi.org/10.13140/RG.2.2.24518.28484

中文版全文下载地址：
http://23941940.s21i.faiusr.com/61/ABUIABA9GAAglMimswYonJ6ntwU.pdf

Angry Elf源代码下载地址：
http://dx.doi.org/10.13140/RG.2.2.31626.07362

本文原文来自澎湃号