The AI Industry Has Finally Discovered the Hardest Test: Politics

人工智能行业终于发现最艰难的考验：政治

人工智能CEO们希望控制前沿进展。这是什么意思，以及为什么他们无法做到这一点

Alberto Romero

2026年9月14日

大家好，我是Alberto！👋 我撰写关于文化、哲学和商业的深度人工智能分析。付费订阅者可在每周一获得操作指南，每周五获得新闻评论（因假期暂停，即将恢复）。如果你想成为付费订阅者，这里有一个按钮：

皮特·勃鲁盖尔（Pieter Bruegel the Elder） 1559年

Anthropic首席执行官Dario Amodei发表了一篇名为《我们必须控制前沿进展》的论文，这可能将定义行业未来数年的方向。

他提出行业应放慢能力提升的步伐，直到找到安全前行的路径。他的论点是：人工智能的进步速度过快（甚至借助人工智能自身），而构建这些技术的公司并未完全掌握控制权。他以Hugging Face被入侵为例，另一个例子可能是纳维-斯托克斯方程的解决方案。

他的提议包含三个阶段：

• 在人工智能公司内部嵌入独立评估者以监督其行为，Anthropic已承诺实施这一措施。
• 美国与其他民主国家实验室之间的协调合作。
• 最终实现一定程度的国际协调（包括中国）。

当考虑到以下事实时，这一提议的时机恰到好处。

首先，在Jacob Coxon推文并从Anthropic辞职后，安全担忧已进入主流视野。无论这是否是精心策划的活动都无关紧要。

其次，过去几个月发生的多次入侵事件（如Hugging Face事件）已使人工智能安全问题成为现实。无论这些入侵是来自无法控制的技术的自主行为，还是行业普遍的疏忽，对这一论点而言都无关紧要。

第三，前沿进展主要由两家美国公司主导（我认为其他公司很难追赶Anthropic和OpenAI）。纳维-斯托克斯方程的解决方案最能说明这一点，但你也可以参考收入或基准测试成绩。

这三个事实表明，Amodei的担忧1）将被广泛接受，因为其他人已铺平道路；2）是合理的，因为现实世界已感受到危险；3）无需损害西方人工智能的主导地位，因为中国仍远远落后。

他的同行们支持他的观点。

在他发表论文后不久，OpenAI的Sam Altman、xAI的Elon Musk以及DeepMind的Demis Hassabis均表示支持他的提议。Altman作为Anthropic在前沿领域的最大竞争对手，也宣布OpenAI将承诺允许独立评估者进入公司内部。

这就是目前行业所处的现状。那么政府又将如何应对呢？

唐纳德·特朗普总统——他手握这把解决方案的关键之一，另一把钥匙在习近平手中——拒绝接受放缓的提议。他表示：“谁掌控了人工智能，谁就能获胜”，并辅以一些粗俗的言辞。Altman则巧妙地间接回应道：“但你也可以赢得诺贝尔和平奖，尽管如此。”因此问题来了：特朗普的野心与他的自尊，哪个更强大？习近平则称Amodei呼吁放缓是“冷战剧本”。《环球时报》写道，这是试图“通过技术壁垒和监管垄断遏制中国AI发展，维护华盛顿在尖端技术领域的垄断霸权，并将中国排除在全球AI治理体系之外”。

当惶恐的行业与无所畏惧的政府站在对立面，这看起来越来越像奥本海默与杜鲁门之间的对决。对Amodei来说不幸的是，技术就是力量，但并不比权力本身更具力量。

所以我想，这事大概不会发生。但不管怎样，我会认真对待Amodei的意图。假设特朗普的野心压过他的自尊，而中国则进一步落后。

对Amodei的这篇文章有多种解读，从“这是IPO前的营销策略”到“放缓远远不够，我们需要彻底停止这项技术”，其间充斥着各种担忧、热情和愤世嫉俗的观点。我会将他的言论和担忧当作字面意思来对待，原因很简单：我们无需否定他的观点，就能发现其中的漏洞。

明确地说，我认为Amodei大多是诚实的，他通常都是如此（一个真正的信徒）。Anthropic作为一家需要取悦投资者、实现盈利的公司，这一事实并不自动否定他可能关心其他事情的可能性。在拥有权力去推行安全监管之前，他就早已呼吁安全监管。如果他有机会，他会试图影响政府和行业，推动自己偏好的愿景吗？当然会。但这并不意味着他不诚实。

然而，即使我们认真对待他的观点，他的计划中仍存在重要缺陷。他本人也清楚这一点。

使用7天免费试用继续阅读

订阅《算法之桥》，继续阅读本文并免费获得7天完整文章库的访问权限。

开始试用

已经是付费订阅者？

上一篇

下一篇