集智俱乐部AGI读书会：跨学科研讨通用智能未来
集智俱乐部AGI读书会：跨学科研讨通用智能未来
2024年4月7日，集智俱乐部举办了一场以“自由能原理”为主题的AGI（通用人工智能）读书会，邀请了日本小冰公司前CEO陈湛作为主讲人，深入探讨这一被认为是通往AGI重要路径的理论。此次读书会不仅聚焦于自由能原理的基础理论与前沿进展，更对其面临的批评与质疑进行了深入分析，展现了AGI领域研究的复杂性与多样性。
自由能原理由英国神经科学家卡尔·弗里斯顿（Karl Friston）提出，试图从物理、生物和心智的角度提供智能体感知和行动的统一性原理。这一理论认为，生物系统通过最小化自由能来维持其存在，而自由能则量化了系统对外界环境的预测误差。陈湛在读书会上指出，自由能原理因其广泛的适用性，被誉为“自达尔文自然选择理论后最包罗万象的思想”，但同时也面临着诸多质疑。
其中，马尔科夫毯（Markov blanket）作为自由能原理的核心概念，成为了争论的焦点。有研究者指出，自由能原理只是通过马尔可夫毯形式化将贝叶斯推理推广到所有领域的一种方法，而主动推理（Active Inference）只是预设成功的感知和行动，而不是解释它们。对此，陈湛结合日本学术界和工业界在该领域的最新进展，提供了独特的视角和见解。
集智俱乐部AGI读书会的跨学科特点，正是当前AGI研究领域的缩影。正如麻省理工学院博士沈马成所言，AGI的本质探讨需要超越单一学科的界限，融合认知科学、计算机科学、神经科学等多个领域的知识。圣塔菲研究所学者Melanie Mitchell在Science杂志上发表的文章也指出，对AGI的理解需要重新思考智能的定义，将其置于更广泛的生物智能和社会智能的背景下。
在技术进展方面，深度学习领域的先驱Yann LeCun在近期的访谈中表示，AGI可能在5到10年内实现，但强调了视觉输入和情感理解在AI系统中的重要性。他认为，未来的AI系统需要能够通过观看视频并互动来理解世界是如何运作的，而不仅仅是依赖于文本数据。此外，LeCun还指出，语言模型的发展已经接近性能上限，未来的突破将来自于能够理解物理环境的世界模型。
然而，AGI的发展也面临着诸多挑战。一方面，对AGI的定义尚未达成共识，不同研究者和机构对其理解存在差异。另一方面，如何在追求智能的同时确保AI系统的安全性和可控性，仍然是一个亟待解决的问题。正如沈马成在回应Melanie Mitchell的文章中所指出的，一个AGI系统应当具有多个未预先确定的目标，并且目标的含义是从环境中习得的，这为解决AI安全问题提供了新的思路。
集智俱乐部AGI读书会通过系列分享和圆桌讨论，为对AGI感兴趣的朋友们提供了一个深入了解和交流的平台。在这个平台上，来自不同背景的专家和研究者能够共同探讨AGI的未来，推动这一前沿领域的发展。随着AGI研究的不断深入，这样的跨学科研讨和知识共享将变得越来越重要。