北京通用人工智能研究院院长朱松纯：实现AGI的关键是为机器立“心”

北京通用人工智能研究院院长朱松纯：实现AGI的关键是为机器立“心”

4月27日，在2024中关村论坛年会——通用人工智能论坛上，北京通用人工智能研究院院长，北京大学智能学院院长、人工智能研究院院长朱松纯表示，人工智能的科研范式要从“数据驱动”转向“价值驱动”，而实现通用人工智能（AGI）的关键是为机器立“心”。

图：北京通用人工智能研究院院长朱松纯

“通用人工智能是技术领域的颠覆性突破，对生产生活、国家安全和人类未来会产生深远的影响。”朱松纯表示，通用人工智能研究的目标是寻求统一的理论框架解释各种智能现象，并研发具备自主的感知、认知、决策、学习、执行和社会协作等能力，且符合人类情感、伦理与道德观念的通用智能体。

朱松纯认为通用人工智能需具备以下三大基本特征：
一是完成无限任务，在复杂动态的物理和社会环境中不局限在预先定义的任务，任务泛化。
二是自主定义任务，不依赖人类去定义每一个任务。
三是由价值驱动，智能体的内在价值体系要与人类价值伦理对齐。

朱松纯提出，通用人工智能系统还需具备AI系统的两个完备性：
一是完备的认知架构，即任意一个AI任务都可映射到该架构中解决，并能分析任务的复杂度。
二是完备的测试环境，即可提供任意场景、任意任务，将人类可能遇到的任务均可在平台上复现。

过去的这些年，人工智能的发展主要由数据驱动，各界往往将人工智能与大数据、大算力和大模型联系起来。但在当前的模式下，人工智能的产业化落地遇到了很多问题，比如：任务泛化性弱，在复杂场景难以落地；AI黑盒（指的是其内部工作原理对用户不可见的AI系统）不可解释，难以获得人类的信任；大数据与计算的成本高昂，难以盈利。

“人工智能的科研范式应从‘数据驱动’转向‘价值驱动’。”在朱松纯看来，实现通用人工智能的关键要素并不是大数据、大算力或大模型，而是为机器立“心”——智能体要有自己的认知架构和价值体系。

为此，科研人员需要解决认知架构、价值函数、自我意识、社交智能、价值驱动、具身智能、可解释性、人机互信等八个关键技术问题。

未来，在工程架构上，要实现从计算到智能的颠覆式跨越。通过行业用户的自然语言，在智能系统上运行，实现由价值驱动的各种复杂的行业任务。在理论框架上，要实现从信息科学到智能科学的颠覆式跨越。比如，在智能体的测试上，要从图灵测转变到通用人工智能测试。