Understanding the brain with AI-driven explanations and experiments

利用 AI 解释和实验理解大脑 - 微软研究院

/.itemprop=publisher

/itemprop=image

利用 AI 解释和实验理解大脑

发布于 2026 年 6 月 25 日

作者：Chandan Singh，高级研究员；Jianfeng Gao，技术专家及公司副总裁

分享此页面

• 在 Facebook 上分享

• 在 X 上分享

• 在 LinkedIn 上分享

• 在 Reddit 上分享

• 订阅我们的 RSS 订阅源

/#single-header

一目了然

• 基于大语言模型（LLM）的模型可以以高精度预测人类大脑对语言的反应。但驱动这种表现的原因本质上是难以理解的：一堆大量学习得到的参数，而不是任何人都可以阅读的科学理论。

• 生成性因果测试（GCT）由微软研究院、加州大学伯克利分校、加州大学旧金山分校和哥伦比亚大学合作开发，将这些大脑预测模型提炼为简短的口头解释，说明大脑皮层的每个区域对什么作出反应：例如“食物准备”或“地点名称”等短语。

• GCT 然后形成闭环：一个 LLM 编写新的故事，旨在激活特定的大脑区域，受试者在扫描仪中听到这些故事，只有当解释正确时，该区域才会被激活。

• 在实验中，GCT 确认了已知的选择性，区分了长期以来被认为可以互换的相邻地点处理区域，并揭示了前额叶皮层中一些微小的“微区域”，它们对特定概念（如对话、时间、测量等）进行了调整。

语言神经科学中的可解释性问题

在过去十年中，大语言模型（LLM）已成为我们预测人类大脑如何对语言做出反应的最准确工具。将相同的故事情节输入 LLM 和 fMRI 扫描仪中的人，模型的内部表示可以以惊人的准确性预测大脑皮层各区域的活动。但这种成功伴随着一个限制：没有人能够理解这些模型。它们是数百万个难以解释的参数，无法直接转化为解释。一个能够预测大脑活动的模型告诉我们某个区域对语言有反应，但无法说明它实际上关注的是什么，是食物、地点、数字还是其他完全不同的东西。随着黑箱模型的普及，预测与理解之间的差距已成为计算神经科学中的一个核心问题。

在一项被《自然神经科学》（Nature Neuroscience）接受的新论文中，微软研究院的科学家与加州大学伯克利分校、加州大学旧金山分校和哥伦比亚大学的科学家合作，提出了一种克服这一可解释性危机的框架：生成性因果测试（Generative Causal Testing，简称 GCT）。GCT 将大脑预测模型提炼成简短、可读的描述，说明大脑皮层的每个区域对什么做出反应，然后对这些描述进行验证。大型语言模型（LLM）会编写新的故事，专门设计用于激活特定的大脑区域，受试者在扫描仪中听取这些故事，如果解释是正确的，那么目标区域就会被激活。这种方法将难以解释的预测模型重新转化为科学的“货币”：可以被后续实验验证或推翻的简洁假设。大型语言模型（LLM）会编写新的故事，专门设计用于激活特定的大脑区域，受试者在扫描仪中听取这些故事，如果解释是正确的，那么目标区域就会被激活。这种方法将难以解释的预测模型重新转化为科学的“货币”：可以被后续实验验证或推翻的简洁假设。

图1. 生成性因果测试（GCT）的两个步骤。在第一步中，大型语言模型（LLM）将最强烈驱动某一脑区预测模型的短语总结成一个简短的候选解释，例如“食物准备”。在第二步中，大型语言模型（LLM）会编写新的故事，以匹配该解释，然后在扫描仪中测量该脑区对这些“驱动”故事的反应，并与基线进行比较。

GCT 的工作原理

GCT 包括两个步骤：解释，然后是验证。为了生成解释，该方法从单个体素或区域的预测模型开始，识别出最强烈驱动其预测反应的短语。然后，大型语言模型（LLM）将这些词语总结成一个简洁的口头解释，通常是单个短语，如“食物准备”或“地点名称”。

第二步是至关重要的，它形成了一个闭环。为了建立对解释的信任，GCT 使用大型语言模型（LLM）编写新的故事，其中每个段落都经过精心设计，以根据解释驱动特定的脑区。三位受试者再次回到扫描仪中阅读这些合成故事。如果某一脑区对“驱动”段落的活动显著高于基线文本，那么该解释就通过了真正的因果测试，而不仅仅是相关性测试。

在所有三位受试者中，核心方法都得到了验证：这些合成故事可靠地激活了目标脑区，高于基线，证实了 GCT 的简短解释确实捕捉到了大脑皮层真正响应的内容。解释的可信度也与底层脑预测模型的强度密切相关（模型越稳定，其解释在扫描仪中被验证的可靠性越高）。在对已知选择性区域进行方法验证后，研究人员将 GCT 应用于更具挑战性的问题。

图2. 不同主题的 GCT 故事在大脑中的反应图。一些地图重现了已知的发现：解释“地点”在与地点相关的脑区（RSC、OPA 和 PPA）中产生强烈的反应。其他地图则独立验证了较新的假设：“食物准备”激活了位于腹枕叶皮层（靠近梭状回面孔区，FFA）的一个区域。还有一些（如“生日”）无法清晰地对应到任何已知结果，指出了未来研究的方向。

GCT 还证明了其足够敏锐，能够解决长期存在的模糊问题。在处理地点信息的三个相邻脑区经常被视作功能相似： retrosplenial cortex（RSC）、parahippocampal place area（PPA）和 occipital place area（OPA）。最初，为一个区域编写的故事也会激活其他区域。但通过生成差异化的刺激（设计故事以激活一个区域，同时保持其邻近区域静默），GCT 将这三个区域区分开来。例如，RSC 对专有名词的地点名称（如东京或康涅狄格州）的反应比对一般性地点的反应更强。这种细致入微、特定于区域的理论是原始预测模型无法单独提供的。

除了已知的脑区，作者还发现了新的前额叶“微区域”。通过扫描候选位置的网格并仅保留最稳定的区域，GCT 揭示了这些之前未被绘制的区域，它们对非常具体的概念进行了调整：一个专门用于人与人之间的对话（如“说”或“告诉”），一个专门用于提及时间（如“一点钟”），还有一个专门用于数字测量（如“50 英尺”）。这些区别是没有人特意寻找的；它们之所以出现，是因为该方法可以提出假设并立即进行测试。

聚焦：事件系列

微软研究院论坛

加入我们，持续交流关于通用人工智能时代研究的想法。随时观看最新剧集。

[立即观看](链接)

/.msr-promo__content

/.msr-promo__inner-wrap

在新标签页中打开

/.msr-promo

意义与展望

GCT 的重要性远远超出神经科学领域。研究人员越来越面临同样的困境：一个预测能力极强但无法解释任何内容的模型。GCT 表明，一个以数据驱动的模型并不意味着研究的终点；它可以被提炼成一个可读、可实验验证的理论，而该理论可以通过按需生成新实验来与现实进行验证。

对于神经科学而言，GCT 指向了一种更快、假设更丰富的皮层映射方法——在这种方法中，人工智能系统可以提出一个脑区可能编码的内容，而闭环实验可以在单个研究中确认或否定它。同样的“生成并验证”理念可以扩展到其他领域，这些领域中强大的预测模型已经超出了我们理解它们的能力。更广泛的经验教训是令人鼓舞的：科学中黑箱模型的兴起并不一定意味着可读理论的退缩。在合适的框架下，两者可以共同发展。

致谢

这项工作是微软研究院、加州大学伯克利分校（Alex Huth、Bin Yu、Sihang Guo 和 Aliyah Hsu）、哥伦比亚大学（RJ Antonello，共同负责人）和加州大学旧金山分校（Shailee Jain）之间的合作成果。我们还要感谢研究参与者以及更广泛的语言神经科学社区，他们的工具和数据集使这项研究成为可能。

[阅读论文（在新标签页中打开）](链接)：“Generative causal testing to bridge data-driven models and scientific theories in language neuroscience”，已被《Nature Neuroscience》接受，并在 GitHub（在新标签页中打开）上发布了代码。

相关出版物

卡片

Generative causal testing to bridge data-driven models and scientific theories in language neuroscience

作者介绍

卡片列包装器

卡片主体

Chandan Singh

高级研究员

卡片页脚

了解更多

Jianfeng Gao

技术专家与公司副总裁

研究领域

• 人工智能

• 人类语言技术

• 医疗、健康与基因组学

研究小组

• 深度学习小组

相关实验室

• 微软研究院 - 红mond