What Anthropic’s latest AI discovery does—and doesn’t—show

Anthropic 最新 AI 发现揭示了什么——以及没有揭示什么 | MIT Technology Review

人工智能

Anthropic 最新 AI 发现揭示了什么——以及没有揭示什么

该公司表示，它发现了一个新的窗口，可以窥见其模型如何得出答案。我们与高级编辑 Will Douglas Heaven 进行了讨论。

By

• James O'Donnell 档案页面

2026年7月13日

Stephanie Arnett/MIT Technology Review | Adobe Stock

这个故事最初发表在《The Algorithm》上，这是我们的每周人工智能新闻通讯。要第一时间收到类似的故事，请在这里注册。

目前估值接近1万亿美元的 Anthropic 是全球最有价值的 AI 公司，以其发布奇特且深奥的研究而闻名。例如，它曾研究 AI 模型是否能感受到疼痛，并且如果怀疑用户在“滥用”模型，有时会主动切断聊天机器人对话。

Anthropic 在“机械可解释性”（mechanistic interpretability）领域投入的时间和资金比其他 AI 公司更多。这一领域指的是通过剖析 AI 模型内部复杂的数学机制，来理解为何模型会输出特定结果而非其他可能的输出。这是一个复杂的过程；任何结果都可能受到数以百万计的数据点的影响，而梳理这些数据点的过程往往看起来更像是毫无意义的文字堆砌，而非有用的分析。同时，这也颇具争议。用心理学和神经科学领域的术语来描述 AI 模型，可能会让人误以为它们的行为比实际情况更复杂。

正因如此，当 Anthropic 上周宣布发现了一种窥探其模型“内部思考”的新方法时，我必须与一位同事深入探讨这一发现。高级编辑 Will Douglas Heaven 除了拥有计算机科学博士学位外，还长期致力于研究我们能对 AI 模型的工作原理做出哪些判断。我与他讨论了我们该如何看待 Anthropic 这项（不出所料地）奇特的新研究。

Anthropic 在这里究竟发现了什么？

Anthropic 已经尝试理解大型语言模型（LLMs）的工作原理已有数年。虽然并非只有 Anthropic 在关注这一领域，但我认为该公司比大多数公司更将其视为核心使命。Anthropic 的 CEO Dario Amodei 曾表示，除非我们更深入了解 LLMs 的工作原理，否则将无法完全控制它们。

因此，这项新研究正是在这一背景下展开的。它比以往任何时候都更深入地揭示了 LLMs 内部那些奇特的机制。Anthropic 的发现是：LLMs 内部存在一个空间（Anthropic 称其为“J空间”），其中包含一些不会出现在输出中的词语，但这些词语似乎会影响模型解决问题的方式。在 Anthropic 开发出一种新方法来探测其模型 Claude 之前，这些信息一直隐藏着，因此这是一个真正的发现。

有时这些词语会记录 LLM 在特定任务中的进展，有时它们看起来更像是瞬间的识别（例如，当只给 LLM 一个蛋白质序列的字母时，“protein”这个词可能会突然出现），有时它们则代表模型决策过程的某种内部评论。我最喜欢的一个例子是，当出现“panic”这个词时，Claude 决定在编程测试中作弊。

Anthropic 还发现，LLMs 能够描述并操控这个空间中的词语。因此，它们似乎以某种方式利用了这个空间。

让我们暂时退后一步。我不认为大型语言模型是简单的，但它们也不是魔法。有一堆数学在学习词语之间的关系，对吧？那么，为什么“窥探”大型语言模型以了解其内部运作如此困难？

没错，它们不是魔法！我认为我们尚未完全理解它们这一事实助长了神话的传播。值得注意的是，Anthropic在此处推动的整个叙事——他们构建了这项神秘的技术，但不用担心，因为他们也是唯一能解开谜团的人——与公司的氛围高度契合。[参见Anthropic如何警告其新模型在编程方面表现得如此出色，以至于可能构成全球网络安全风险，但随后美国政府却迅速叫停了它们。]

是的：大型语言模型只是数学。然而，这些数学极其复杂。不仅当今的大型语言模型由数百亿个数字构成，运行它们还会触发数以百万计的计算。我去年曾写道，如果将即使是中等规模的大型语言模型打印在纸上，其覆盖面积将相当于旧金山市的大小。

没有专门工具来突出显示大型语言模型在特定时间的特定部分，就无法理解这些数学。你需要知道在哪里看以及如何看。而构建这些工具本身首先需要理解这些复杂数学的某些内容。

你曾在其他地方写过关于以研究生物大脑的方式研究大型语言模型的概念。在讨论大型语言模型的工作原理时，使用“大脑般”的术语是否恰当？

我不太喜欢使用这类术语。大型语言模型不是大脑。这样谈论会带来误导，因为它可能暗示大型语言模型具备比实际更多的类人能力，或者让我们对它们的行为做出不应有的假设。将大型语言模型拟人化也与一些关于这项技术本质和未来发展的强烈意识形态立场密切相关。

但与此同时，我们缺乏一套良好的词汇来描述这些模型正在做什么。我理解人们为何会使用“思考”“理解”“大脑般”这样的词汇——它们是方便的简略表达。

Anthropic将它在大型语言模型中发现的新空间比作一些神经科学家认为我们大脑用来追踪有意识思维的空间。我询问了公司我们应该如何看待这一类比，公司表示：“在设计实验时，这些类比对我们很有帮助，因为它们使我们能够做出许多非显而易见的关于J空间的实验预测，而这些预测最终被证明是正确的。同时，需要指出的是，J空间（以及语言模型总体）与人类大脑之间存在一些重要差异，因此我们并不声称两者之间存在完美的对应关系。”

这个新提出的J空间概念可能用来解决AI领域的哪些问题？

Anthropic表示，监控J空间可能是发现模型执行不当行为的一种方式。由于这个空间中会出现模型输出中没有的词语，它们可以揭示模型行为中你可能未注意到的方面——例如，当模型给出有偏见的回答，或当模型权衡作弊的利弊时。

这听起来很理论化，至少目前是这样。我认为与其将这一成果视为一个独立的实用突破，不如说它是通向全面理解这项技术道路上的又一步。

阅读 Will 关于这项新研究的完整报道。

深入探讨

人工智能

一家初创公司声称突破了阻碍大语言模型发展的瓶颈

Subquadratic 现在已分享了其新模型的更多细节，但仍有部分人持怀疑态度。

• Will Douglas Heaven 档案页面

对 AI 就业热潮的现实检验

人工智能对劳动力市场的真实影响数据究竟如何？答案可能会让你感到意外。

• David Rotman 档案页面

Anthropic 的 Claude Code 展示了编程的未来——无论你是否喜欢

随着 Claude Code 等工具的不断进步，越来越多的开发者愿意将编码任务交给它们。软件开发方式已经发生了永久性的改变。

Google I/O 展示了人工智能驱动科学的发展路径正在转变

两年前，一款 AI 工具帮助 Google DeepMind 赢得了诺贝尔奖。如今，研究人员正朝着新的目标迈进。

• Grace Huckins 档案页面

保持联系

插画由 Rose Wong 创作

获取 MIT Technology Review 的最新动态

发现特别优惠、热点新闻、即将举行的活动等更多信息。