Timnit Gebru Believes There Is No ‘Existential Threat’ From AI

Timnit Gebru 认为AI不存在“生存威胁” | WIRED

Lauren Goode

重大新闻

2026年9月29日 6:30 AM

Timnit Gebru 认为AI不存在“生存威胁”

人工智能领域最尖锐的批评者之一认为，关于AI的末日言论实际上与创始人赚钱有关，而非拯救人类。

图片插图：WIRED编辑部；Travis P. Ball/Getty Images

保存此故事

失控。突破限制。目标偏差。P(末日)。随着行业蓬勃发展，关于人工智能究竟有多重要的一系列辩论中，一种全新的术语体系应运而生。

在这一新术语体系中，"随机鹦鹉"和"生存风险"两个短语成为焦点。而这些讨论的核心人物，是一位始终不退让的知名AI研究员Timnit Gebru。

几年前，Gebru因与谷歌就她共同撰写的一篇研究论文发生争执而进入公众视野，该论文指出谷歌AI中的偏见，称大型语言模型基本上只是重复训练数据，存在强化偏见观点的风险。这篇有争议的论文导致Gebru离开谷歌，并促使她创立了一个研究所，专门调查技术造成的伤害，并支持开发无偏见的技术工具。她还撰写了一本新书《深度去学习：人工智能的兴起与技术理想主义者的激进化》，预计明年年初出版。

最近，Gebru公开反对行业内一个认为AI强大到可能毁灭人类的派别。作为回应，该群体中的一些成员，包括Anthropic的联合创始人，指责Gebru早期关于"随机鹦鹉"的研究已不再相关，并声称AI确实具备"思考"或推理的能力。（有趣的是，或者可以说是某种讽刺，Gebru对AI有效利他主义群体的狂热特征的看法，现在使她与那些同样批评这些EA群体的右翼实体产生了共鸣。）

如今，关于AI的争论已不再仅限于技术本身，而是涉及意识形态群体和战略叙事。Gebru认为这些叙事是AI真正问题的"有害干扰"。我最近与Gebru讨论了她认为这些争论分散了哪些真正的问题，并获得了她对批评者指责其早期研究低估当今AI能力的回应。

本次采访已根据长度和清晰度进行了编辑。

LAUREN GOODE：Timnit，非常感谢你接受采访。

TIMNIT GEBRU：感谢你的邀请。

我假设很多人已经知道这一点，但对那些不知道的人，几周前，Anthropic的一位年轻AI研究员辞职了，他在X平台的辞职声明中表示，公司内部许多人认为我们正面临AI带来的重大生存风险。一些人对此作出回应，引发了关于AI真正威胁的激烈讨论。

在我们刚刚交谈后，你说这种特定的叙事分散了我们面对AI时真正的问题。你能详细解释一下吗？

我甚至会更进一步，认为这种叙事不仅分散注意力，而且是危险的，是有害的。

在回答你的问题之前，我想先简要回顾一下这个叙事长期以来的发展历程。Elon Musk和Peter Thiel早在2013年就曾提出过类似的观点。一些知名人士一直声称人工智能对人类构成存在性风险。这种说法每隔三年就会以相同的方式被反复提及。

例如，未来生命研究所……

等等，这是什么机构？

未来生命研究所是由麻省理工学院的物理学家Max Tegmark和曾主导Anthropic A轮融资的亿万富翁Jaan Tallinn共同创立的。

他是不是Skype的联合创始人？

是的。Jaan Tallinn还资助了METR，这是一个审计机构，所谓的第三方机构，其关于OpenAI所谓"流氓代理"入侵Hugging Face的报告曾引发广泛传播。

因此，公众可能会觉得有这么多不同实体在共同发出相同的声音。但那些创立并资助Anthropic的亿万富翁，也是最能从其IPO中获益的人，他们同时也创立并资助了那些警告人工智能存在性风险的机构。他们还创立并资助了目前被频繁引用的第三方机构，这些机构被当作独立实体对待。

请告诉我们，为什么你认为你所说的"机器神祇叙事"是一种干扰？

这不仅仅是干扰，它实际上是有害的。我之所以告诉你这些事实，是因为这些出资人、创始人和投资者，他们最能从这些公司上市中获利，却一直在推动这种叙事已有数十年之久。

因此人们应该思考：如果我从某件事中能获得巨额资金，为什么我会是那个声称这家公司可能制造出会毁灭我们的东西的人？这听起来似乎违背直觉。

这就是为什么我非常尊重前联邦贸易委员会主席Lina Khan，因为她说过一件事：我们现有的法律对AI公司没有任何例外条款，但这些公司却声称存在例外。你是在说你们正在构建的东西如此强大，以至于超越了我们之前见过的一切。

没错。这是一种自我膨胀的说法。它声称我们是塑造未来的人，但如果我们无法继续构建这些技术，未来将会非常可怕。

你必须关注他们在新闻周期中所说的话。当他们说AI可能带来存在性风险时，他们也会说AI可以阻止气候变化、带来世界和平、消除贫困。

AI之所以能实现所有这些目标，是因为它足够强大。它可以为我们带来乌托邦，但如果被错误的人使用，而我们又没有安全机制，它也可能直接导致我们的灭亡。因此，这些持相同观点的人只可能是少数几个群体。

当你告诉人们你拥有超级强大的机器时，你首先是在对你的投资者说话。你在说："你们想要掌控这些超级强大的机器。"你也在对政府说："你们不希望对手掌控这些超级强大的机器，你们想要掌控它们。"你同时也在告诉任何监管机构：他们考虑的任何法规都应该针对这些虚构的超级强大事物。

如果我谈论的是可能消灭全人类的问题，比如污染、数据中心，这些听起来似乎微不足道，对吧？你谈论的是艺术家版权保护，以及目前正在进行的实际诉讼？政府不应该浪费时间去考虑这些事情。如果你浪费时间在这些小问题上对我们进行监管，你将面临中国掌握超级强大机器的风险。你可不希望看到这种情况。相信我们，我们能够构建一台能帮助我们的机器神，而且我们告诉你们，我们希望被监管。

对。

这是第一个问题。第二个问题是，你总是可以推卸责任。

在我们之前的对话中，我们讨论过使用某些语言或短语来描述人工智能这个现代时代的说法，以及你对其中一些说法的异议。例如，在我们之前的对话中，你提到过“自主武器”。在那篇文章发表后，你告诉我你后来后悔说了那句话，因为你会用不同的措辞。我们讨论过P(doom)。我们还讨论过当你提到代理程序失控时（例如在OpenAI的场景中），你实际上是在将责任从那些开发这些工具的工程师身上移除。

我好奇是否有一些群体在安全和透明度方面其实比他们意识到的更加一致，但使用了不同的措辞来描述本质上相同的事情。

我后悔说出这些话的原因之一并不是我对“自主武器”这个术语有任何问题。这是一个法律术语。即使地雷在法律上也被视为自主武器。只是所谓存在风险阵营的人已经将其挪用，赋予了不同的含义。

当我使用这个术语时，我就知道。我心想：“嗯，我好奇这会不会被理解成那样。”结果确实如此，因为讨论人工智能存在风险的人将其理解为他们所说的含义，也就是某种超人类、超级智能的机器自行做事。

上周我恰好参加了联合国大会。我参与了一个边会讨论，因此我没有被允许进入大会或安理会。但许多顶级科技领袖发表了演讲。Sam Altman和Dario Amodei都谈到了需要全球合作来应对对人类的生存威胁。据报道，Dario说：“如果管理不当，我相信人工智能可能对整个人类构成风险。”他的竞争对手Sam Altman说：“我们可能会失去对未来的控制权。”那么，这些拥有商业利益、销售人工智能产品的公司高管们，现在为何会站在联合国的全球舞台上说：“我不确定。这里可能存在一些风险。”这是否属于监管俘获？他们是否会在实际监管打击到来之前，寻找自我治理的方式？

绝对，这属于监管俘获。

能做些什么？你认为人工智能需要什么样的治理？

这种监管俘获已经持续了很长时间。

2023年，情况依然如此。Sam Altman 说了同样的话。我们需要全球合作，等等。欧盟人工智能法案出台后，他威胁要退出欧盟。你只需看看他们实际上做了什么。当有法规真正针对他们实际做的事情进行监管并追究其责任时，他们要么威胁退出，要么拼命游说以削弱该法规。

另一方面，他们却四处向这些多边机构宣称必须进行全球合作，等等。但这种做法到底在做什么？这实际上是在将自己包装成创造所谓超级智能的组织，对吧？这已经属于营销手段。

他们还制造恐惧，让所有人害怕任何可能创造这类技术的其他方。他们不希望看到中国开放权重模型，不希望出现这种竞争。我不太关注中国法规，但中国并未谈论存在性风险，而是讨论深度伪造和需要真正监管的实际问题。

第一个问题是：他们将自己营销为创造前所未有的强大技术的组织，而这些技术目前没有现有法规。但事实并非如此，我们已有相关法规。第二个问题是：当有人试图执行现有法规时，他们要么威胁退出，要么拼命游说以避免这些法规。这就是为什么我不断回到十年前、五年前、三年前的原因，因为情况始终如一。在我的书中，我称其为“同样的电影反复上演，只是换了主角”。

那么，如果现在需要提出治理方案，你认为解决方案是什么？

非常简单的事情。首先，我不是法律学者，但前FTC委员Lina Khan提出了五点。第一是欺骗性营销行为。你知道，有针对欺骗性营销行为的法律，可以据此追究公司责任。

第二是透明度和文档记录。在发布产品之前，你应当能够告诉我们所有数据的来源，并实际进行文档记录。他们却从未做到这一点。我要告诉你，他们将不惜一切代价反对这种简单的数据文档记录。

第三是数据工作者的劳动剥削，这也是他们不愿谈论的问题。

我们如今在云端谈论超级智能，却忽视了全球数亿人正在辛苦地标注数据，甚至假装成聊天机器人。

没错，404 Media最近报道，新的Meta Muse聊天机器人在某些使用场景中，实际上有真人正在另一端回应。

非常简单。数据透明度、劳动剥削，你不应该能够从人们那里窃取数据。即使我刚才提到的前三个问题——数据透明度、文档记录、劳动剥削——如果他们必须遵守这些法律，不能窃取数据且必须进行文档记录，那么目前市场计算方式不再有效，但通过这些额外措施，市场将完全无法运作。你将自动减缓他们的步伐，并迫使他们对某些事情负责。

2021年，你曾共同撰写了一篇题为《On the Dangers of Stochastic Parrots》的论文。

Google 最初批准了这篇论文，但随后又开始重新审查。论文中的一些内容存在争议。在某个时间点，你表示：“如果你希望我从这篇论文中移除我的名字，那我就不参与这件事了。” 最终你离开了 Google。这篇论文后来在 2021 年 ACM 公平性、问责制与透明度会议（ACM Conference on Fairness, Accountability, and Transparency）上发表，至今仍被人们引用。

能否为从未听说过“随机鹦鹉”（stochastic parrots）概念的人简单解释一下？它与我们今天使用的 AI 有什么关联？它意味着什么？

“随机鹦鹉”是一个比喻，用于帮助人们理解大型语言模型的工作原理。大型语言模型是通过互联网上大量文本数据训练而成的模型，它们被训练成根据训练数据输出最可能的文本序列。今天大多数聊天机器人（如 Claude 或 ChatGPT）都依赖这类模型。

在我撰写这篇论文时，ChatGPT 还未发布，但我们已经看到人们竞相构建更大规模的语言模型。这篇论文正是在描述这种趋势可能带来的危险。

这些模型本质上会重复人类的言论吗？

没错。“鹦鹉”就是指重复他人话语却并不理解其含义。当时还存在一种关于存在性风险的讨论，你可能难以相信。OpenAI 曾声称 GPT-2（ChatGPT 所依赖的 GPT-3 的前身）过于强大，以至于不能发布。当时还引发了关于 GPT 是否具有伦理性、是否具有创造力等广泛讨论。我们希望将这些讨论建立在现实问题的基础上。

其中一个问题就是环境灾难，如今许多人已经意识到这一点，这也是 Google 人员对论文中这一部分不满的主要原因。环境成本是其中之一。另一个问题是未对数据进行充分记录，因为人们声称数据量太大，无法记录。

第三个问题是误导人们相信与他们交互的文本输出背后存在一个“心智”。我们正是想通过这个比喻解释这些系统实际上只是在重复训练数据中的模式。

嗯。

当你输出这种文本时，风险非常大。因为当你生成看似合理或非常流畅的文本时，除了让人误以为机器背后存在一个“心智”之外，还可能引发其他许多问题。在那篇论文中，我们举了一个例子：一位巴勒斯坦男子写下“早上好”，却被翻译成“攻击他们”。

由于语法正确，翻译结果中没有任何提示表明翻译可能出错，人们因此相信了这个翻译。这就是我们所说的“自动化偏见”（automation bias）——人们过度信任自动化系统，如果相信这台机器是无所不知的，就会过度信任它产生的错误。

这很有趣。我可能是个典型的千禧一代，因为你说人们过度信任自动化系统，而我却非常不信任。如果我打电话给银行，发现是机器人，我会说：“不，不，我不和它说话。”

“我根本不想和它交谈。” 没错。

Anthropic 的联合创始人之一 Jack Clark 最近在 X 上发了一条帖子。他基本上将“随机鹦鹉”（stochastic parrot）放在引号中，并称其为一种从 2021 年（你的论文发表时）传播到 2025 年的“具有高度传播性的认知病毒”。

他称，这暂时让许多有才华的人忽视了人工智能进步的本质，浪费了多年关键的研究时间。他后来表示，这种框架的使用导致人们严重低估了人工智能系统能做什么和不能做什么。

当你看到Jack在X上的帖子时，你的第一反应是什么？

我并不感到意外，让我告诉你。

这是有效利他主义者目前向立法者提出的一个论点，因为每次我说话时，他们都会说：“哦，你不应该认真对待那些在2026年仍然认真对待随机鹦鹉问题的人。”

这个观点是说研究已经过时了，对吗？

是的。但事实并非如此。我们甚至说这句话都显得荒谬，因为这些是大型语言模型的定义。

大型语言模型的本质从未改变，也永远不会改变。大型语言模型就是大型语言模型。现在，你可能会在独立系统中使用大型语言模型。它们现在还配备了强化学习代理。但我们的论文是关于大型语言模型的，这一点从未改变。

这些聊天机器人仍然以大型语言模型为基础。杰克·克拉克谈论系统被高估的说法是如此荒谬，因为正如我刚刚告诉你的例子，我看到的是人们对这些系统的过度信任，缺乏制衡机制，最终导致错误诊断乳腺癌。

在大型语言模型本质上是随机鹦鹉和使用AI工具导致医疗误诊之间存在直接联系，为什么？这两者之间是如何相互关联的？

这些随机鹦鹉无法理解文本中的内容，因此你不能指望它们提供事实信息。

即使你看到像AI概览这样的内容。我曾打电话给一位肿瘤科医生朋友，询问某种特定药物是否适用于特定用途，因为我读到一篇学术论文称其不适用，想要确认。而我的肿瘤科医生朋友却说：“哦，看看谷歌的AI概览，它说这是适用的。”但结果证明并不适用。

我经常遇到这种情况，谷歌AI概览经常如此。

因为它们是随机鹦鹉，经过训练以根据训练数据生成最可能的文本序列。

艾米丽·M·班德已经用多种语言尝试表达这个观点很长时间了。

你论文的合著者之一，对吗？

是的。称这项研究已经过时是荒谬的，因为现在我们正热衷于讨论超级智能，但有一些新闻报道却未被注意到，这些报道描述的是现实世界中正在发生的完全相反的情况。

我的理解是，人们对当时研究的批评之一是，这些研究可能没有纳入当时的思考方式、推理能力，甚至递归智能……

没有推理，也没有递归智能。

完全没有？怎么会完全没有？顺便说一下，今年夏天早些时候在伯克利人工智能会议上，我听到谷歌的一位人士谈论递归智能。

当然有！

《纽约时报》刚刚发表了一篇大篇幅报道，称目前科学家和研究人员正关注递归智能，也就是AI从其他AI学习。这已经成为现实了吗？听起来你是在说这并非现实。

不，因为人工智能研究者存在一个问题是理想化的命名和理想化的内容。机器学习就是理想化的命名。

但机器学习是真实存在的。

但命名是理想化的。机器本身未必存在。

所以，尽管人工智能领域存在课程学习，它仍然是一个研究方向。让我给你一篇我前上司Samy Bengio的论文，他是机器学习领域的超级明星，虽然不如他的哥哥Yoshua Bengio那么出名。我曾问他：“你是不是厌倦了你一生都在每篇论文中反驳推理这个概念？”

在我被谷歌解雇后，他辞职了，现在是苹果公司机器学习研究的负责人。如果你查看他们几乎每篇论文，都会展示如果稍微改变推理基准，整个系统就会崩溃。这并不是推理。

明白了。

再举个例子。仅仅因为你训练的模型中，随机模式生成特定的标记，你就称其为思维链推理。你并不知道它们在思考，你也不知道这是链条结构，你只是知道这些标记被输出了，但你却称其为思维链推理。现在你却说它们已经在进行推理了。

我们当前面临的最大危机之一其实是缺乏严谨的科学研究。如果你查看我的工作，如果我有机会接触到数据、代码、训练数据和评估数据，但这些公司从不会提供这些信息——你甚至不知道他们是否在训练过程中摄入了这些基准。

如果在训练过程中摄入了基准，那就相当于考试前就知道了答案，然后去学习并写下答案。每当我有机会接触到这些信息时，我都展示了他们声称的内容并不正确。

但Samy Bengio和他的团队在2025年的论文中展示了，你只需稍微改变基准，稍作调整，整个系统就会崩溃，这表明你只是依赖于模式。当一些人听到这个例子时，他们会说：“但我们现在讨论的是2026年的模型。”

你猜怎么着？科学中的真实评估需要时间。我们不应该从新闻发布会直接跳到立法者鹦鹉学舌地重复这些新闻发布会内容，记者们再重复这些说法。如果你想进行真正的研究和评估，就要求提供训练数据、评估数据和方法论，这样我们才能共同复现这些结果。

这种思考、推理、递归智能——听起来你仍然认为这些是纯粹人类的特质。这是我们的神经过程运作方式，但AI目前还做不到。这就是你的观点。

我不知道它是否永远……就像智能一样，这也是理想化的命名。为了让人回到这些炒作周期，我有时会玩个游戏。我会告诉他们一个声称，并问：“这是1954年还是2024年？”

你认为从2020年代初的人工智能到现在，你自己的思考和研究中，最让你惊讶的变化是什么？

我必须主动为我认为应该构建的模型腾出空间，并构建它们，忽略噪音。这就是我得出的结论。

这就是你最大的收获，最大的启示。

是的。

现在网络上存在太多噪音，如果你只是机械地关注AI领域人士所说的内容，就很难进行任何深度工作。

即使你目前的研究重点是反驳他们所说的，你也知道吗？这确实会让人感到厌倦。

这样做并不有趣。更有趣的是思考你想要的未来、你希望实现的技术进步，并为之努力。

你目前认为什么最能给AI的未来带来希望？

我想告诉你，我们有一个名为“AI抵制名单”（AI Resist List）的清单，其中讨论了人们以他们应该采取的方式进行抵抗：在媒体控制、叙事、数据中心、资金等方面。

我们列出了他们抵抗的方式，也列出了那些正在创造不会破坏环境、不会剥削劳动力或窃取数据的替代技术未来的人。相反，这些技术实际上在积极帮助他们的社区，而这些理念正在传播，对吧？你看到某个小型组织在某处做了些事情，就会受到启发，然后去做些不同的事情。

因此，我抱有希望，有很多人已经厌倦了他们所看到的现状，正在小圈子里做着不同的事情。我相信人类的能动性和集体力量，能够想象出更好的未来，阻止坏事发生，甚至在必要时禁止某些有害的事物，对吧？

我对人类能动性的信念，就是给我带来希望的原因。

如何收听

你总可以通过本页面上的音频播放器收听本期播客，但如果你想免费订阅以获取每一集，可以这样做：

如果你使用的是iPhone或iPad，打开名为“播客”（Podcasts）的应用，或者直接点击此链接。你也可以下载类似Overcast或Pocket Casts的应用并搜索“Uncanny Valley”。我们也在Spotify上提供。