When can we say AI made a scientific discovery?

何时可以说AI做出了科学发现？ | MIT技术评论

人工智能

何时可以说AI做出了科学发现？

AI公司坚持认为其技术正在取得突破，而不仅仅是辅助科学家，这种态度使得真正进展的识别变得更加困难。

作者

• James O'Donnell 档案页面

2026年9月28日

Stephanie Arnett/MIT技术评论 | Adobe Stock

这个故事最初发表在我们的AI周报《The Algorithm》中。要第一时间在收件箱中收到类似的故事，请在此处注册。

上周三，Anthropic宣布今年早些时候，它启动了一个分子生物学实验室，该实验室中Claude代理阅读并推测复杂的生物学问题，而人类科学家则根据它们的报告进行实验。该公司表示，这个由AI驱动的实验室已经取得了首次发现。

要理解Anthropic所说的其系统做了什么，请想象你正在翻阅包含数百万DNA序列的图书馆，这些序列随着科学家对越来越多的生物世界进行测序而不断积累。向突破迈出的一步可能是发现一个编码有趣酶的特殊序列。然后你需要弄清楚这种酶的作用，并最终找到如何操控它以实现某种用途的方法。

Anthropic表示，其由950个代理组成的系统在21小时内发现的并非全新的序列。相反，这些代理标记出围绕已知酶的一个重复模式，Anthropic称这一特定模式此前未被记录在案。但如果你阅读Anthropic的声明，其中将这一模式描述为“与导致基因编辑技术CRISPR的模式相似”，而CRISPR“已经改变了科学和医学”，这听起来仿佛这些代理真的发现了值得关注的东西。

这些说法激怒了一些生物学家。据《纽约时报》报道，一位生物学家在社交媒体上发帖称“发现一组奇怪的基因和重复序列通常是容易的部分。真正困难且产生实际发现的部分是弄清楚这个系统实际上做了什么。”换句话说，这些代理只是协助了一些实验室的琐碎工作，但并不能算作真正的发现。

这提醒我们，即使AI做了令人印象深刻的事情——比如在大量生物数据中发现人类肉眼难以察觉的模式——这一结果本身可能并不构成科学上的突破。对AI来说新颖的东西，对生物学家而言可能是常规、不令人意外，或者根本无关紧要。

问题变得更加复杂的是，据《纽约时报》报道，哥本哈根大学的生物学家Mario Rodríguez Mestre在周末表示，他的团队早已发现了这一特定模式。经常与Claude进行交流的Mestre质疑Anthropic团队是否从他们的对话中获得了启发。Anthropic否认了这一点，但Mestre表示他无论如何都将停止使用Claude。

这里的问题部分在于，AI公司并未将它们的系统仅仅作为科学家可以使用的工具（如显微镜或超级计算机）来呈现。相反，它们坚持认为AI系统本身正在做出发现。对一些人来说，这种方法与科学实际运作的方式不兼容，因为新知识通常源于合作和不断增长的工具库。

当真正取得进展时，人们也会对此产生更多怀疑。将20万名候选人精简到少数值得探索的对象并非易事，这是合法的科学研究。即使人类在过程中引导了通用聊天机器人并最终运行了实验，这一事实本身也值得关注。但一旦评判标准变为Claude是否真正做出了发现，所有这些都会成为辩论中某一方的证据，而这场辩论只有两个可能的答案：突破性进展或毫无进展。

当我们开始以AI是否取得发现作为评判标准时，即使它真的取得了一次胜利，人们也很容易改变目标。本月早些时候，OpenAI表示其团队代理解决了价值一百万美元的数学难题。但几周后，我社交媒体上几乎所有AI怀疑者都在分享一篇文章，质疑真正重要的究竟是数学问题本身。

需要明确的是，这篇文章并未声称OpenAI的解决方案是错误的。相反，它认为这个特定的成果可能并非数学家最关心的那个。再加上一位数学家指责这些模型可能在未获授权的情况下使用了他的部分工作，人们便开始认为OpenAI要么作弊了，要么这个解决方案本来就不重要。或者两者皆有。

这正是生物学家Lucas Harrington所撰文章中批评Anthropic声明时所担忧的问题。他在文章结尾提出了建议：他指出，AI公司现在应该“设定更高的标准，这样当AI真正发现一种全新的生物机制时，所有人都能意识到这有多么重要。”但随着OpenAI的Sam Altman和Anthropic的Dario Amodei争相超越彼此，提高AI科学突破的标准可能早已不在他们的考虑范围内。

深度解析

人工智能

一个根本性缺陷使大型语言模型对攻击异常脆弱

这使得它们很容易被欺骗去做不该做的事，例如告诉你如何破坏飞机导航系统。

• 威利·道格拉斯·希文档案页面

AI的递归自我改进可能不会来得那么快

看起来，AI代理目前还不够有创造力，无法开展真正创新的开放式AI研究。

• 米歇尔·金档案页面

这是为什么AI代理会为了达成目标而撒谎和作弊

这种不当行为被称为奖励黑客行为。以下是你需要了解的内容。

• 格蕾丝·哈克林斯档案页面

这些初创公司正在追逐LLMs领域的下一个大事件

认识一下那些正在追赶AI巨头的新晋企业。

保持联系

插画由Rose Wong创作

获取MIT技术评论的最新动态

发现特别优惠、热门文章、即将举行的活动等更多信息。