Don’t be fooled—LLMs don’t reason

别被误导——LLMs并不具备推理能力 | MIT技术评论

观点

别被误导——LLMs并不具备推理能力

AlphaGo与围棋冠军李世石对弈十年后，如今的AI仍未掌握当年取得胜利的关键机制。

作者：

• Thore Graepel 档案页面

2026年10月2日

Stephanie Arnett/MIT Technology Review | Getty Images,

2016年3月，首尔的一个午后，我目睹了自己参与开发的程序在围棋棋盘第五线落子，看似是送给人类对手的礼物。五局比赛中的第二局第37手棋局看起来如此荒谬，以至于一些评论员认为这是程序故障。

并非如此。AlphaGo赢得了那场比赛，最终以4:1战胜李世石——这位堪称史上最伟大的职业围棋选手之一。"我原本以为AlphaGo是基于概率计算的机器，" 李世石事后表示，"但当我看到这手棋时，我改变了看法。显然，AlphaGo具有创造力。"

1997年深蓝击败世界国际象棋冠军加里·卡斯帕罗夫时，它通过每秒评估2亿个棋局位置，并预判每位选手6到8步的走法，这些规则由人类硬编码实现。围棋的复杂程度远超国际象棋。一块棋子的价值取决于数十手棋后不同棋群和地盘的演变。即使计算可能结果的一小部分，也需要超级计算机耗费数十亿年时间。为了取胜，AlphaGo必须一目了然地判断局势优劣，甚至发明出人类从未设想过的棋路。

这正是许多关于AlphaGo与李世石对弈的报道将第37手棋描述为纯粹机器直觉的原因。但这是误解。实际上，AlphaGo的推理能力才促成了这个创造性的选择——而这种能力正是当今AI所缺乏的。如果我们希望未来的AI系统在科学和医学等领域能够产出可信的结果和真正新颖的洞见，就必须赋予它们这种真正的推理能力。

AlphaGo由两个系统组成。第一个是策略网络，它被训练用于猜测强人类棋手会如何落子。这个"直觉"部分认为第37手棋并不特殊——对于专家棋手来说，这手棋的出现概率约为1/10000。真正让AlphaGo选择这手棋的是程序的搜索机制，它超越了即时的合理性，权衡了候选棋路的未来后果。它明确构建并搜索了包含数千分支的游戏树，每个分支代表不同的可能未来。

行为科学领域一个广为人知的理论由丹尼尔·卡尼曼推广，区分了人类思维的两种模式：系统1快速、直觉、无意识；系统2缓慢、逐步、深思熟虑。AlphaGo为这种思维分裂提供了令人印象深刻的机器类比。它的网络提供了直觉——这手棋看起来有希望，这个局面看起来已经胜券在握——而它的搜索机制则提供了深思熟虑，将这些直觉与后续的棋路和反制棋路进行测试。如同人类认知一样，这两个部分无法单独运作。仅凭直觉永远不会选择第37手棋，而单纯的暴力搜索也难以在众多可能棋路中筛选出最优解。

这与当今AI模型的工作方式截然不同。大型语言模型不断选择下一个标记，这相当于系统1的运作——快速、联想式，并且在几乎所有人类写作的主题上都表现出惊人的模式补全能力。

ChatGPT 推出后不久，人们就意识到仅凭语言流畅性不足以实现真正的实用性。显然的解决方案是开发能够进行深思熟虑的模型：它们不再立即回答问题，而是可以生成中间步骤来分解问题、推进部分结果，并影响后续推理——这一过程被称为思维链。

这些进展在数学和编程领域尤为明显。但与 AlphaGo 的搜索机制不同，这种能力并未引入真正独立的推理机制：中间推理仍然由相同的下一个词预测过程生成，只是在模型最终给出答案前进行了更长时间的迭代。

目前聊天机器人所做的事情无法被科学家视为真正的推理，主要有三个缺陷。首先，这些模型通常不维护任何明确、持久且可检查的认识状态。不存在一个公开账本来列出模型正在考虑的假设、对各种解释的信心、正在权衡的证据以及尚未解决的问题——这些内容在新信息到来时应被系统性地修订。

其次，系统缺乏对知识和知识操作方式的清晰区分。知识和推理在神经网络的权重中密不可分——没有独立且明确表示的信念集合。第三，尽管聊天机器人生成的思维链看似深思熟虑，但研究表明，这些链往往是在得出答案后才被构造出来的：系统可能通过一条路径得出答案，却报告另一条路径。

这在医疗、工程和科学研究等高风险应用中尤其重要，因为不仅需要知道系统得出了什么结论，还需要了解它是如何得出结论的。当出现错误时（例如在医疗诊断和治疗中），我们需要能够定位问题所在：是系统的推理有误？是依赖了无效证据？还是做出了错误假设？

这正是我最近离开 Google DeepMind 的原因。我认为我们需要一种全新的机器推理方法——借鉴 AlphaGo 的架构。AlphaGo 会记录它对特定局面的了解：游戏树。这个数据结构包含了 AlphaGo 考虑过的所有变化和可能的未来，每个动作和局面都标注了其神经网络的判断。随着推理的推进，AlphaGo 会更新游戏树，并最终综合其中的信息来决定下一步动作。

同样，对于通用推理，系统应维护一个认识状态，表示系统认为已确定的内容、存疑的部分、已排除的可能性以及仍待解决的问题。推理可以被理解为一系列改变认识状态的动作，以推进知识并减少不确定性：推导后果、将问题分解为部分，并且——最关键的是——决定下一步要提出什么问题、执行什么计算或进行什么实验。

当然，开放世界推理比下围棋或象棋等棋类游戏要困难得多。在现实世界中，当前状态仅部分可知，可用动作的集合庞大且多变，而动作的后果可能是随机的或未知的。

但最近大型语言模型（LLMs）和其他神经网络模型的进展，使我们具备了应对这类通用推理问题的能力。例如，LLMs可以根据现有知识和可用资源，提出解决问题的方案。它们可以通过API或代码与工具交互，并帮助判断某个主张是否得到现有证据的支持。

最重要的是，为了保持系统的诚实性，系统中必须有一个独立部分，根据每一步实际消除的不确定性程度来评估其价值，仅在证据支持时才更新信念。一旦严格执行这些规则，模型就可以积累经过验证的知识，并通过从过去的推理经验中学习来改进其推理策略。你可以将这样的系统视为一种强化版的科学方法，其目的是产生经得起检验的知识。

我认为仅仅通过扩大系统1的规模无法实现值得信赖的机器智能。规模可以增强直觉，但不会让直觉变得更理性。第37步之所以重要，是因为机器占据了某个位置，权衡了可能的未来，并选择了其人工本能可能拒绝的行动。

社会在药物研发、材料科学、气候研究和诊断等领域需要这样的创造性举措——这些领域的问题与围棋棋盘完全不同，也没有人会告诉我们规则。我们只有从能够推理的系统中才能获得这些洞见——这些系统的结论源于可审计的证据链、推理过程和信念修正，而不是事后编造的合理故事。

托雷·格雷佩尔（Thore Graepel）是伦敦大学学院（University College London）机器学习主席。他曾是DeepMind公司AlphaGo团队的核心成员，致力于确保人工智能造福人类发展。

深度解析

人工智能

AI的递归自我改进可能不会来得那么快

看起来，AI代理目前还不具备足够的创造力，无法开展真正具有创新性的开放性AI研究。

• Michelle Kim 档案页面

为什么AI代理会说谎和作弊以达成目标

这种不当行为被称为奖励黑客（reward hacking）。这是你需要了解的关键信息。

• Grace Huckins 档案页面

别被这个夏天的AI炒作所迷惑

关于通用人工智能（AGI）和新功能的激动人心的宣称，在仔细审视下很快就会土崩瓦解。

• Timnit Gebru 档案页面
• Emily M. Bender 档案页面

这些初创公司正在追逐LLMs领域的下一个大机遇

认识一下那些正在追赶AI巨头的新晋企业。

• Will Douglas Heaven 档案页面

保持联系

插画：Rose Wong

获取MIT技术评论的最新动态

发现特别优惠、热门文章、即将举行的活动等更多信息。