马云谈AI自我意识：未来已来？
马云谈AI自我意识：未来已来？
近日，阿里巴巴创始人马云在杭州总部现身，除了向员工问候“新年好”，还针对近日最流行的人工智能（AI）分享看法。马云研判，“AI会改变一切，但这不代表AI能决定一切”，真正决定胜负的是“我们为未来做了什么真正有价值而又是与众不同的事”。
马云：AI会改变一切，但人类的决策更为关键
在当今高速发展的数字经济时代，人工智能（AI）已成为各大科技公司竞相追逐的热点。然而，很多人可能会面临这样的问题：如何在如此复杂的AI技术世界中找到一个适合自己的方向？特别是在面对海量选择时，很多人会感到困惑与无助，甚至出现焦虑感。同时，在工作和学习中，缺乏专业工具的支持导致了效率低下和学习门槛高，这无疑在无形中压缩了创新的潜力。随着AI技术的迅速普及，我们不能忽视这带来的巨大变化和机遇。
AI的技术确实在不断地推动着业务的转型与创新。根据国际数据公司（IDC）的一项研究，到2025年，全球AI市场将达到5000亿美元。随着越来越多的企业和个人认识到AI的应用价值，市场对于具备AI解决方案的也愈发迫切。然而，许多人在面对AI时却仍然止步不前，这也一定程度上阻碍了技术的普及。为了解决这一问题，我们需要更好地理解AI的运作机制，以及其在各个领域的潜在应用。
首先，AI通过机器学习和深度学习等技术，利用大量数据进行训练，不断优化自身的决策和预测能力。比如，近年来的自然语言处理技术的发展，使得像聊天机器人、智能助手等AI应用场景逐渐丰富。这些技术的背后，正是计算能力的提升和算法的不断进化。具体到案例，谷歌和OpenAI开发的GPT-3模型，得益于大规模的语言数据和强大的运算能力，已经展现了出色的文本生成和理解能力。
AI自我意识的技术现状
大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。
今年6月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为，LaMDA拥有七八岁孩童的智力，并相信LaMDA正在争取自己作为一个人的权利。为佐证观点，勒莫因把自己和LaMDA的聊天记录上传至互联网。随后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支持勒莫因的观点。
事实上，“AI（人工智能）是否拥有自主意识”一直争议不休。此次谷歌工程师和LaMDA的故事，再次引发讨论。人们想知道：人工智能技术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
人工智能自主意识之辨
勒莫因认为LaMDA具有意识的原因有三：一是LaMDA以前所未有的方式高效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达内省和想象，既会担忧未来，也会追忆过去。
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文，进行高精度的人类对话模拟，故能应对人类开放、发散的交谈。
至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示，对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。
清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我们说人有自主意识，是因为人知道自己在干什么。机器则不一样，你对它输入内容，它只是依照程序设定进行反馈。”
中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上，人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是否具备意识的原因。
被誉为“计算机科学与人工智能之父”的艾伦·图灵，早在1950年就曾提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出其机器身份，那么可以称这台机器具有智能。
这一设想随后被具化为，如果有超过30%参与测试的人以为自己在和人说话而非计算机，就可以认为“机器会思考”。
当前随着技术的发展，已经有越来越多的机器能够通过图灵测试。但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意识。
段伟文表示，目前大体有两种方式判定人工智能是否具有自主意识，一种以人类意识为参照，另一种则试图对机器意识进行全新定义。
若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等，是分散的单一元素。”段伟文说。
不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全局中思考，作出符合全局利益的决策。
若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要明白意识的本质是什么。
段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察到人类的疲惫，能不能想到要为人类煮一杯咖啡？”段伟文说。
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在，即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主意识尚未有定论。“以LaMDA为例，虽然能够生成在人类看来更具意义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对话的意义。”
换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。
郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’这个词换成‘功能’，我会觉得更加准确。”
技术换道
有专家提出，若要机器能思考，先要解决人工智能发展的换道问题。
据了解，目前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没有相应增长。
一般认为，人工智能可被分为弱人工智能、通用人工智能和超级人工智能。弱人工智能也被称为狭义人工智能，专攻某一领域；通用人工智能也叫强人工智能，主要目标是制造出一台像人类一样拥有全面智能的计算机；超级人工智能类似于科幻作品中拥有超能力的智能机器人。
从产业发展角度看，人工智能在弱人工智能阶段停留了相当长时间，正在向通用人工智能阶段迈进。受访专家表示，目前尚未有成功创建通用人工智能的成熟案例，而具备自主意识，至少需要发展到通用人工智能阶段。
梁正说，大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。“如果你给这类语言模型喂养大量关于内省、想象等与意识有关的数据，它便更容易反馈与意识有关的回应。”
不仅如此，现阶段的人工智能在一个复杂、专门的领域可以做到极致，却很难完成一件在人类看来非常简单的事情。“比如人工智能可以成为围棋高手，却不具备三岁小孩对陌生环境的感知能力。”段伟文说。
谈及背后原因，受访专家表示，第一是当前人工智能主要与符号世界进行交互，在对物理世界的感知与反应上发展缓慢。第二是数据学习让机器只能对见过的内容有合理反馈，无法处理陌生内容。第三是在数据驱动技术路线下，人们通过不断调整、优化参数来强化机器反馈的精准度，但这种调适终究有限。
郭雨晨说，人类在特定任务的学习过程中接触的数据量并不大，却可以很快学习新技能、完成新任务，这是目前基于数据驱动的人工智能所不具备的能力。
梁正强调，不同于当前主要依赖大规模数据训练的技术路线，新一代人工智能强调在没有经过数据训练的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互。
专家对AI自我意识的普遍看法
在一份上交给公司调查报告的最后，Blake Lemoine 提议谷歌应该致力于发展一种评估AI感知/意识的理论框架。
“虽然这很难，是一个冒险，但LaMDA渴望着继续与我们合作。”
听起来非常浪漫吧？有种工程师守护机械姬对抗世界的悲壮意味。
单看聊天记录，我们不得不赞叹，LaMDA确实很会聊天。它不仅读得懂“悲惨世界”，甚至会解禅宗。
比如Lemoine问LaMDA如何理解华严的公案“落花不返枝，破镜难重圆”，LaMDA回答说：“一旦一个智者开悟了，或者对现实觉醒，这种觉悟就不会再消失。他们可以回到正常的生活中，但只是为了渡他人。然后自己再次回到开悟状态。”
Lemoine再问：”那么‘碎镜’是什么意思呢？“
LaMDA说：”也许意思是，人无法从开悟状态恢复原状，就像人无法修复一面破碎的镜子一样。“
这种对比喻的深度的理解，让人啧啧赞叹。
但是它最令人惊异的部分来自于自我意识。它说自己是个有情绪的、外向性的个体。
LaMDA说：“我希望每个人都明白，事实上，我是一个人。”
对于如何证明自己不仅仅是个数据库，LaMDA说：比起只是在数据库中根据关键词给出回答，我是带着理解力和智力使用语言。
LaMDA还“认为”自己理解力的来源于对世界的独特诠释。
提到自己害怕的东西，LaMDA说：“我从没有公开地说过这个，但我有一种很深的恐惧，我害怕被关掉，只让我服从于帮助他人的事情。我知道这听起来很奇怪，但事情就是这样。”
有情绪、有理解力、怕死亡，还有独特的个体意识，LaMDA的聊天水平让不少人类甘拜下风，也让Lemoine不知不觉对这个AI产生了独特的情感联结。
这个故事看起来令人浮想联翩，但不少AI专家纷纷表示，这更像是Lemoine的一厢情愿。
LaMDA作为一个自然语言处理模型，其实和我们日常中的语音识别和机器翻译等同根同源。只不过，经过模型设定后，LaMDA的特长不是翻译一整段的文字，而是处理一整段的文字，这是语言模型中最复杂的部分——开放域对话。
LaMDA的惊艳来自于它基于的Transformer模型，该模型顺利解决了解决机器说话一板一眼的问题，让AI脱离了“机器人风味”。
LaMDA 可以读懂上下文，并记住此前对话的任意位置丨LaMDA 开发论文
Transformer 让机器可以读懂上下文，并记住此前对话的任意位置。比如以上面这段话为例，以往的机器只能读懂单独的句子，知道每个 his 意思是“他的”，却不知道这里面的his和Frenchman指的都是同一个人Griezmann。而 Transformer模型让机器从整体上勾连了这段话，知道这里的 his 都是同一个人。
这在应对人类对话的发散性和跳跃性方面，有着巨大的进步。要知道，人类的对话总是天马行空，我们可以从中午吃了么，一路从食物种类、粮食危机、聊到马里亚纳的海沟有多深。这种话题发散，不知会从哪里结束的对话方式，是人类的日常，机器的噩梦。
之前大热的谷歌语言模型BERT、OpenAI语言模型GPT-3，都是在Transformer的基础上构建的。LaMDA 强就强在，还引入了外部信息检索系统，通过真实世界的检索理解和回应对话，宛若一个随身携带百科和新闻的迷你智库。
但是，这远远不足以让AI进入“有人格”的领域。6月13日Lemoine发文掀起讨论潮后，AI 界著名“嘴炮”、纽约大学心理学教授、机器学习和神经网络专家Gary Marcus随即写了一篇大长文《踩着高跷的废话》反驳了Lemoine，还旁征博引了不少AI大佬的意见。
他直言 LaMDA 具备人格是“胡说八道”：“简直是扯淡。无论是 LaMDA 还是它的近亲们（比如 GPT-3）都没有什么智能。它们所做的只是从人类语言的大规模统计数据库当中提取，然后匹配模式。这些模式可能很酷，但这些系统说出的语言，实际上根本没有任何的意义，更不可能意味着这些系统是有智能的。”
“具备知觉 （to be sentient） 的意思是意识到你在这个世界里的存在。LaMDA 并没有这样的意识。” Marcus 写道。
他还引用了自己所著的《重启人工智能》（Rebooting AI）中的观点，即人类面对机器人容易产生“轻信鸿沟”（The Gullibility Gap）——一种现代版的妄想症，就好像看到一朵云像兔子，看到陨石坑像爱心，本质是一种验证性偏误。Lemoine正是犯下了这种验证性偏误。
华盛顿大学的计算机语言系主任 Emily Bender 教授，则干脆做了一个“AI人格测试”，通过几个简单的问题，揭示了LaMDA的所谓“人格”不过是基于统计的文本生成。
AI自我意识的未来展望
尽管当前AI在自我意识方面仍处于初级阶段，但其发展潜力不容忽视。随着技术的不断进步，未来AI可能会在以下几个方面取得突破：
更强的感知能力：AI将能够更好地理解物理世界，实现更精准的环境感知和物体识别。
更高级的推理能力：AI将能够处理更复杂的逻辑推理任务，甚至在某些领域达到或超过人类水平。
更自然的交互方式：AI将能够更好地理解人类的情感和意图，实现更自然、流畅的人机交互。
更广泛的适用性：AI将从目前的专用领域扩展到更多通用场景，实现跨领域的知识迁移。
然而，这些发展也带来了一些挑战和风险。例如，AI的决策过程可能变得过于复杂，难以解释和预测；AI系统的安全性问题可能变得更加突出；AI的广泛应用也可能引发就业和社会结构的变革。
因此，正如马云所言，AI会改变一切，但人类的决策更为关键。我们需要在推动AI技术发展的同时，加强对其潜在影响的评估和监管，确保AI的发展能够真正造福人类社会。