Three things to watch amid Anthropic’s latest feud with the government

Anthropic 与政府最新争端中值得关注的三件事 | MIT Technology Review

人工智能

Anthropic 与政府最新争端中值得关注的三件事

Anthropic 与华盛顿的对峙已经引发了关于人工智能安全性和主权的新问题，也引发了关于中国竞争的新问题。

作者：

• James O'Donnell 档案页面

2026 年 6 月 22 日

Stephanie Arnett/MIT Technology Review | Getty Images

这个故事最初发表在《The Algorithm》上，这是我们关于人工智能的每周通讯。要第一时间收到类似的故事，请在这里注册。

对于那些在享受夏天假期时对 Anthropic 与美国政府最新争端一无所知的人来说，这里是一个回顾：4 月，该公司表示，它开发了一个名为 Mythos 的人工智能模型，这个模型在处理代码方面表现得如此出色，以至于可能对全球网络安全构成威胁。Anthropic 向一小群网络安全专家提供了访问权限，让他们了解所面临的挑战。然后，它在 6 月 9 日星期二发布了一个修改后的版本，名为 Fable，并声称这个版本对公众更安全。就在那个星期五，联邦政府告诉该公司，这个模型对国家安全构成威胁，并对新版本实施了出口管制。几小时后，Anthropic 撤销了对这两个模型的访问权限。

多年来，那些担心人工智能可能造成灾难性影响的人（通常被称为“末日论者”）一直认为这项技术对人类构成威胁，并提出了政府应该如何干预其发展的建议。现在，这些“末日论者”终于得到了他们想要的政府干预——不是因为生物武器或失控的人工智能，而是因为一个基本上只是在编程方面非常出色的人工智能模型。到目前为止，结果看起来更像是一个表面的反应，而不是一个真正的安全计划。

在那些导致政府采取如此激烈行动的几天里，有很多值得深入分析的地方，值得注意的是，亚马逊首席执行官 Andy Jassy 是告诉政府官员 Fable 会带来危险的人（亚马逊既投资了 Anthropic，也在开发自己的竞争性人工智能模型）。此外，也有可能这次政府的禁令是短暂的，无法经受法律审查（例如，尚不清楚 Anthropic 提供 Fable 的访问权限是否真的算作“出口”）。

但目前，已经出现了一些连锁反应。

首先，这使得很多人不愿意再依赖美国的人工智能公司。法国政治人物 Bruno Retailleau 将其描述为一个“警钟”，应该促使欧洲更多地发展人工智能。但任何将巴黎变成硅谷的愿景（许多其他欧洲领导人曾在 Anthropic 模型被关闭后提出过这一愿景）都因一个大问题而变得复杂：中国。

中国的开源模型非常强大，而且极其便宜，它们可以被下载到任何人的服务器上运行，没有任何规则或限制。（这使它们对那些不希望因白宫的决定而关闭访问权限的公司具有吸引力，但同样也对网络犯罪分子具有吸引力，而 Anthropic 正是希望通过在其模型中构建安全防护措施来抵御这类犯罪分子。）

有可能包括美国和欧洲的公司会决定，与中国的模型合作更为容易，这从中国初创公司 Zhipu 的股价飙升中可以预见。如果继续发展下去，政府的下一个重大决定是否可能是说，使用中国模型的美国公司对国家安全构成威胁？我不会排除这种可能性。

其次，关闭对Anthropic模型的访问可能会使该国更容易受到网络攻击，而不是更安全。一些领先的网络安全专家在给政府的公开信中也表达了这一观点，他们指出，访问Anthropic的模型有助于研究人员准备防御措施，并且该公司的模型并不比其他广泛可用的领先模型更具危险性。这正是将“不扩散”概念应用于软件所面临的风险——试图像控制用于核武器的铀那样控制和限制危险的人工智能模型。

第三，值得关注的是美国立法者将如何反应。请记住，在Anthropic与政府上一次关于五角大楼能否使用其模型的争执之后，一些新的法案被提出，这些法案将定义军事人工智能的使用限制。

目前，塑造人工智能使用方式的主要力量是公司和白宫。关于更多联邦人工智能监管的讨论已经很多，民意调查也表明大多数美国人支持这一点。立法者仍在探讨是否要制定有关儿童使用聊天机器人规则，而对于政府应多大程度上审查人工智能模型的安全性，目前还没有明确的答案。但随着白宫采取每一个激进的行动，对监管的压力也在不断上升。

显而易见的是，当政府对人工智能的态度随着风向变化时，预测变得非常困难。当特朗普总统上任时，他推翻了关于如何确保人工智能安全的限制性规则，并承诺要为科技公司让路。如今，白宫在春季和夏季都曾将最有价值的人工智能初创公司称为对国家安全的威胁。那么，秋天又会带来什么呢？

深度解析

人工智能

一项新的美国手机网络专为基督徒打造，旨在屏蔽色情和性别相关的内容

该手机套餐将于下周在T-Mobile的网络上推出，其对网络安全采取了“核”级别的措施。

马斯克 vs 阿尔特曼 第一周：马斯克称自己被欺骗，警告人工智能可能杀死我们所有人，并承认xAI提炼了OpenAI的模型

马斯克保持冷静，而OpenAI的律师则用尖锐的问题向他施压，质问他起诉该公司的动机。

• Michelle Kim 档案页面

一家初创公司声称突破了阻碍大型语言模型发展的瓶颈

Subquadratic现已分享了其新模型的更多细节。但一些人仍持怀疑态度。

• Will Douglas Heaven 档案页面

深度思维新模型为何重要：三个原因

备受期待的V4版本更加高效，对中国的芯片制造商来说是一个胜利。

• Caiwei Chen 档案页面

保持联系

插图由Rose Wong绘制

获取MIT Technology Review的最新更新

发现特别优惠、热门故事、即将举行的活动等更多信息。