AI的"思考"：是机械记忆还是智能推理？

AI的"思考"：是机械记忆还是智能推理？

在人工智能飞速发展的当下，AI回答问题的方式引发了广泛讨论：它究竟是像学生死记硬背那样"背出了答案"，还是如同智者般"推理出了答案"？这就如同我们学生时代，面对物理老师"你到底是背出来的，还是真的理解了"的灵魂拷问。若回答"理解了"，老师大概率会追加几道题来检验。同样，要弄清楚AI的"学习"本质，也得多追问几个为什么。

AI的"推理"能力剖析

有人坚决反对AI回答问题只是靠"背书"这一观点，OpenAI便是其中之一。他们声称旗下最新模型o1已具备深度推理能力。

o1采用强化学习与思维链推理方法，在科学、编程和数学等领域成绩斐然，能够处理复杂推理任务。它不再单纯依赖预训练数据的模式匹配，而是学会了"停下来思考"，自我检查答案的准确性。

"思维链"是o1的关键技术。OpenAI称，o1在作答前会深度"思考"，生成冗长的内部思维链，在奖惩机制的作用下，不断优化思维过程，尝试不同策略，还能认识到自身错误。这种训练方式借鉴了AlphaGo的蒙特卡洛树搜索（MCTS）技术和自我对弈方法，让模型学会通过多步骤推理攻克复杂难题，将复杂问题拆解成小问题逐一击破。

但OpenAI对推理的定义——"模型能够将思考时间转化为更好的结果"，与大众传统认知中的推理存在差异。Apple的研究人员也对此提出质疑，他们认为大语言模型所谓的推理能力，不过是复杂的模式匹配工具。

尽管争议不断，大语言模型的出色表现有目共睹，众多企业借助AI+重塑业务模式，AI产品和解决方案层出不穷，这也引发了对AI人才的激烈争夺，许多大厂不惜开出百万年薪揽才。

AI的"记忆"方式解读

人类的记忆融合了认知与情感，即便死记硬背也会受其影响，比如通过联想记忆，对情感体验强烈的事物记忆更深刻。

AI则不同，它没有情感，仅基于认知。AI的记忆能力源自模式识别技术，具体过程为：先从照片、声音文件、文字等各种数据源收集信息；接着对信息预处理，去除杂音、规整数据、降低复杂度，提升后续处理效率与效果；然后从数据中提取关键特征用于区分不同模式；再利用机器学习或深度学习技术搭建分类模型，模拟人类感知和理解模式；最后用该模型对新数据分类。

正因如此，AI能从众多图像中识别特定物体，能回答各类问题，本质是将输入与训练所得模式匹配，匹配度越高，回答效果越好。从这个层面看，AI确实像是在"背书"，这显然不符合人工智能发展的长远期望。

Bengio在2020年AAAI演讲中提出，未来深度神经网络应实现人类认知系统中的System2（逻辑分析系统），即具备有意识、有逻辑、有规划、可推理且能用语言表达的能力。简单来讲，就是用逻辑编码人类知识，通过推理从已有信息获取新信息，这才是理想中的推理。

推理分为关联推理与因果推理。当前AI在关联推理上成果显著，AI模型能发现变量间相关性，解决市场分析、推荐系统、自然语言处理等诸多问题。

但在因果推理方面，AI还较为薄弱。因果推理需要推断和验证因果关系，常用实验设计、潜在变量控制、因果图模型等方法，排除其他可能解释，确定变量间因果联系，这在医疗研究、政策评估、经济学等领域至关重要，只有明确因果关系才能做出有效决策与干预。

ICLR 2024的论文总结了AI在因果推断领域的最新研究，涵盖因果发现、因果强化学习等方向，不过整体而言，AI在因果推理上仍处于探索阶段。

打破局限，迈向未来

AI若要从关联推理迈向因果推理，必须突破现有局限。

一方面是AI的不透明性问题，若能进一步延伸思维链，或许有机会打破AI黑箱，使其内部运作如同透明的"金鱼缸"般清晰可见。即便无法立刻实现因果推理的终极目标，这对于判断AI是否能真正推理也意义重大，因为推理过程可见，结果便能解释，AI也就能在更关键领域发挥作用。

另一方面，需要突破AI泛化能力的瓶颈。

若AI能处理数学和物理领域的推理任务，能否将这种能力推广到更广泛的一般情况？微软亚洲研究院的核心计划步骤学习（CPL）研究，就致力于将强化学习技术应用于更多样化、更复杂的实际问题。

AI的记忆主要基于模式识别技术，通过模式匹配回答问题，类似"背书"；而部分先进模型如o1，借助强化学习和思维链推理展现出一定推理能力，可进行复杂思考与自我验证。但AI在因果推理领域尚处探索阶段，未来需突破不透明性和泛化能力的限制，才能实现更智能的跨越。