Welcome to the AGI era of AI governance
TL;DR · AI 摘要
美国政府对Anthropic的限制标志着AGI时代AI治理的新阶段，引发对AI监管、安全与经济影响的深刻讨论。
核心要点
- 美国政府对Anthropic的限制可能对AI发展造成长期负面影响。
- Anthropic的过度恐惧宣传加速了AI治理的紧迫性。
- AI模型的出口禁令可能对美国经济稳定性构成威胁。
结构提纲
按章节快速跳转。
美国政府对Anthropic的限制标志着AI治理进入新阶段。
政府要求Anthropic暂停模型访问，引发对AI治理模式的讨论。
AI模型的快速发展对治理提出更高要求，涉及安全、经济与政治因素。
Anthropic的过度宣传可能加速了AI治理的紧迫性。
AI治理的不确定性可能对美国经济稳定性构成威胁。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AGI时代的AI治理
- 政府与Anthropic的互动
- 模型访问限制
- 政治与经济影响
- AI治理的挑战
- 安全风险
- 经济稳定性
- 技术发展速度
金句 / Highlights
值得收藏与分享的关键句。
An export ban on any model weights is going to be a lasting, negative policy for the U.S.
Anthropic’s constant fear-mongering over the last few years has accelerated this moment.
Sufficient instability could cause an economic recession and pop the AI bubble.
欢迎来到AGI时代的AI治理 - Nathan Lambert
欢迎来到AGI时代的AI治理
这是一扇单行门，而我们尚未准备就绪。
Nathan Lambert
2026年6月14日
升级为付费用户以播放旁白
美国行政部门迫使Anthropic关闭对其最新Claude 5 Mythos/Fable模型的访问权限，无论是内部还是外部，这标志着AI治理新时代的开始。这个时代定义了能够有效补充人类工作者的AI代理，解锁了新的工作方式和应用现有工具的新领域。这些模型将迅速变得越来越好，从而带来更多的治理挑战。
前沿的不稳定平衡
周五，市场收盘后不久，政府联系了Anthropic，要求他们暂停任何外国国民或海外用户访问该模型。在撰写本文时，这一事件仍在持续发展。很可能会达成一项协议，让Anthropic重新发布该模型，但这显示出新的AI治理类型的混乱迹象。白宫从Anthropic最大的金融和技术合作伙伴亚马逊那里得知了这一风险。
这些动态非常复杂，尽管目前信息尚不完整，但我将仅就这一事件可能形成的持久观点进行评论：
- 对任何模型权重实施出口禁令将是美国一项持久的负面政策。这适用于开放模型和封闭模型，尽管开放模型更有可能很快被禁止进口。
- 即使这一风险非常狭窄，对Fable模型的越狱存在合法的网络安全担忧。我个人认为，这不应该引发这一系列事件，因为没有任何模型对越狱完全免疫，我们需要为一个未来做好准备，即在接下来的几年里，每个全球实体都将能够访问这种能力级别的模型。
- 过去几年Anthropic的持续恐慌言论加速了这一时刻的到来。如果没有不断将AI与核武器等进行比较的持续信息，我怀疑这种治理方式至少会再延迟6到12个月（AI的进步）。Anthropic正在收获它所播下的种子。
- 人们不应该在我们国家领先的AI公司反复遭受潜在政治攻击时，沾沾自喜（是的，我看着开源社区的人）。这在经济上高度不稳定，损害了美国体系的经济稳定性。足够的不稳定性可能导致经济衰退并使AI泡沫破裂。
- 白宫禁止该模型的行为过于强硬，并受到对Anthropic强烈的政治理想影响。政府的要求和目标之间存在深刻的矛盾，因为如果外国国民不能在美国使用前沿AI进行构建，就不存在国内的AI产业。
- 我不清楚亚马逊为何要将他们掌握的信息直接提交给白宫，也不清楚这次发布和禁令背后的原因（网上有很多关于发布前讨论的账号），以及在主要科技公司与白宫之间通常如何进行危机管理。这表明Anthropic与政府之间的互动存在一些奇怪的动态，这可能是对政治上被单独针对的一种反应。无论原因是什么，这种动态是不好的，也给Anthropic在这里的参与方式蒙上了一层阴影。如果一家私营公司试图控制政府，政府将会更强烈地进行反击。我不认为Dario真的去了一个健康疗养中心（白宫代表这样说过），但我认为他接电话的时间比与电话另一端的人交谈所应花费的时间要长得多。
这一图景非常复杂。它指向了一个短期的未来，即模型的发布将由一个技术人才极少的行政部门根据感觉来判断，而这些发布将被一系列政治判断下的技术评估所限制。
这是一个已经认识到我们正处于AGI时代（通用人工智能时代）的政府。他们当时并未做好准备，感到必须迅速行动以挽回失去的时间。
这是一个在我们仍处于ChatGPT时代（AI治理的早期阶段）时上台的政府——那时的AI模型只是回答问题。他们最初的AI行动计划反映了这一时代，强调了之前很多关于安全的讨论更多是虚张声势而非真正的担忧，并且我们多么需要开源模型来迎头赶上。总体而言，他们在这里的意见和建议大多是可接受且对行业有帮助的。
重要的是要记住，即使在ChatGPT时代的治理中，AI公司经常告诉我们这些模型存在风险，必须非常谨慎才能发布。许多领先实验室的发言人并没有在语言升级上为自己留出足够的空间，当模型在性能上取得重大突破时，他们就显得措手不及。
当我们从回答推理转向代理推理时，我仍然认为风险被夸大了，但最新AI系统的真实风险与描述它们的语言之间的差距已经缩小。这已经让一些领先AI实验室之外的权力结构感到不安。
进入AGI时代的AI治理，意味着全球越来越多的主权国家开始认真对待AI。欧洲、中东，以及很可能还有中国，正在意识到他们可能会被排除在前沿AI之外。这种转变是开源社区视为胜利的，他们看到了一个长期趋势：当政府可以随意对领先平台做出不利裁决时，企业将希望拥有自己的智能。
理解这个时代的关键词是，Anthropic与联邦政府之间发生的这些事件，看似是AI政策历史上最重要的两件大事，但它们只是未来将要发生的事情的开始。这将成为新的常态，因为现有的权力结构感到有必要对迅速崛起的技术重新确立控制。这将是一个混乱、充满挑战，有时甚至危险的时期。
在关注这些事件时，我感到一种深深的恐惧，直面空虚，因为我知道还有更多事情即将发生。要实现全球范围内广泛分布、安全且价格低廉的超级强大AI的积极愿景，我们需要有决心去选择那些有助于缓和局势的路径。
主权 AI、开源需求以及即将到来的战斗
那些开源 AI 的倡导者们对这一系列事件的狂热庆祝，显然还没有为当快速响应的 AI 政策聚光灯转向他们时做好准备。很可能，针对一个开源模型的类似激进行动将会发生，但我们不知道这会在 3 个月还是 2 年后发生。
本文仅供付费订阅者阅读
已经是付费订阅者了吗？
上一篇