Anthropic’s Safety Superpower

Anthropic 的安全超级能力 – Stratechery by Ben Thompson

Anthropic 的安全超级能力

2026 年 6 月 15 日，星期一

收听播客

收听这篇帖子：

登录以收听

我对那些一贯将 Anthropic 的公开声明（尤其是围绕其模型发布的声明）描述为出于营销目的而制造恐慌的怀疑者表示理解。就在两个月前，Anthropic 宣布了 Mythos Preview，他们表示由于其先进的网络安全能力，该模型过于危险，无法向公众开放。然后，两个月后，公司公开发布了 Fable，这是 Mythos 的一个版本，具备各种安全防护措施。

根据我有限的经验，Fable 是一个非常令人印象深刻的模型。除了编码性能之外，客观评估模型变得越来越困难，但主观感受依然存在，我发现与 Fable 的互动非常令人印象深刻；它让其他模型，包括 GPT 5.5 和 Opus 4.8，显得渺小而愚蠢。我之前只有两次有这种感觉，分别是与 GPT-4 和 Grok 4 互动时，这两个模型在基础模型规模和复杂性方面都代表了新一代；我的感觉是，Fable 是新一代预训练模型的产物，也是新一代模型的开端。

因此，我确实可以接受 Fable/Mythos 在识别和利用安全问题方面确实更强大的观点，并且 Anthropic 的谨慎发布是合理的。然而，公开发布模型的问题在于，防护措施可能会被破解，显然，发布后不久就发生了这种情况。

Anthropic 与美国政府的再次交锋

接下来发生的事情有些模糊。Anthropic 在一篇博客文章中写道：

美国政府援引国家安全授权，已发布一项出口控制指令，要求所有外国国民（无论在美国境内还是境外，包括 Anthropic 的外国员工）暂停访问 Fable 5 和 Mythos 5。这项指令的净效果是，我们必须立即为所有客户禁用 Fable 5 和 Mythos 5，以确保合规。对所有其他 Anthropic 模型的访问将不受影响。我们今天下午 5:21（东部时间）收到了政府的指令。信中没有提供其国家安全担忧的具体细节。我们的理解是，政府认为它已经了解到一种绕过或“破解”Fable 5 的方法。我们审查了该特定技术被用来识别少量已知、轻微漏洞的演示。这些漏洞似乎都相对简单，我们发现其他公开可用的模型在无需绕过的情况下也能发现这些漏洞。

Anthropic 进一步指出，非通用的破解方法是不可避免的，而且是有限的，同时没有证据表明存在通用的破解方法；而发现的破解方法似乎是由亚马逊报告的，这值得注意，因为亚马逊既是 Anthropic 的投资者，也是该公司的主要推理服务提供商。在我撰写本文时，Anthropic 的高级员工正在华盛顿特区，试图解决他们坚持认为是误解的问题，而白宫官员则表示，公司领导层对合法的国家安全关切表现出漠不关心。

鉴于目前许多事实存在争议，我实际上并没有太多可以补充的内容；但我并不感到意外的是冲突的发生：我在《Anthropic 与对齐》一文中已经解释过，美国政府与 Anthropic 之间的冲突是不可避免的。在这方面，那些认为 Mythos 不够强大，不足以促使政府采取极端行动的人，没有抓住重点：如果 Mythos 目前还不够强大，那么下一个模型会，再下一个也会，尤其是在模型在创造其继任者方面变得越来越有用的情况下。

然而，这又引发了一个问题——这个问题似乎验证了怀疑论者的观点：如果 Mythos 如此危险，那为什么一开始要发布 Fable，又为什么要与政府对抗，而政府所做的正是你声称想要的？事实上，我认为 Anthropic 的行为是可以理解的；使这家公司独特的是它如何为这些行为辩护，而正是这些辩护既为怀疑论者提供了燃料，也为 Anthropic 带来了魔力。

经济驱动力

在人工智能发展的最初几年，由于显而易见的原因，最大的经济价值流向了计算资源：我们目前的供应无法满足需求，这导致了价格的飙升；最大的受益者是英伟达、台积电以及内存制造商（SK 海力士、三星和美光）。与此同时，Anthropic 和 OpenAI 共同损失了数十亿美元，用于构建前沿模型，而一旦这些模型发布，它们就会被开源模型（主要来自中国）提炼并商品化。

这代表了实验室的熊市案例——它们永远无法收回成本，因为它们的差异化是短暂的，而免费的替代方案则会变得“足够好”——我认为这是一个合理的观点。在一个模型可以互换的世界里，模型就是商品，而大部分价值则流向了其他地方。目前，这体现在计算资源上，但随着时间的推移，当我们拥有足够的计算资源时，价值链条中最宝贵的位置将始终是那个最宝贵的位置：拥有用户接触点。

因此，长期以来我一直清楚地认识到，前沿实验室有经济上的驱动力，必须更接近用户。如果你拥有用户接触点，那么你就能实现有意义的锁定，而拥有用户接触点的最佳方式是成为用户所有需求的画布。由此推断，前沿实验室正与软件公司发生碰撞：是软件拥有用户接触点，而前沿实验室的长期利益在于不仅要成为软件的一个商品输入，而是直接取代软件本身。

与此同时，软件公司正在努力做相反的事情。Satya Nadella 在 X 上的一篇文章中阐述了公司应该如何利用模型构建的愿景：

每家公司都必须构建我所认为的人力资本和代币资本。人力资本包括员工的知识、判断力、人际关系、创造力和模式识别能力，而代币资本则是公司构建并拥有的人工智能能力。重要的是，随着代币资本的增长，人力资本并不会变得不那么有价值，反而会变得更加有价值！我相信，人力的主动性将是推动代币资本增长的关键因素。人类将设定雄心勃勃的目标，跨领域连接信息，建立关系，并识别最重要的模式。没有人类的指导，计算能力只会徒劳地循环。这意味着真正的机会并不在于选择最好的模型，而是在模型之上构建一个学习循环，使人力资本和代币资本相互促进、不断增长。你可以将任务甚至工作外包，但你永远无法外包你的学习。企业的未来在于将这种学习能力在人与人工智能之间进行复利增长。这需要一种新的架构方法，使每家企业都能够构建随时间推移不断改进的自主系统，同时仍然保留对知识产权的控制。一家公司应该能够更换一个“通才”模型，而不会失去其学习系统中内置的“公司老将”专业知识。这将是未来时代你控制权和主权的关键“考验”。

纳德拉以一个警告开始了这一愿景：

我们都不希望看到一个世界，其中各行各业的每家公司都将价值让渡给少数几个吞噬一切的模型。如果所有价值都集中在少数几个模型上，政治经济体系将无法容忍。社会不会允许一个让整个行业被掏空的人工智能未来。想想第一次全球化浪潮中发生的事情，整个工业经济体因外包而被掏空。表面上GDP数字看起来还不错，但人员被替代的现实和其后果至今仍在持续。让我们不要让这种动态进入人工智能时代，让少数几个AI系统攫取所有经济回报，而整个行业却在知识被商品化的同时被逐渐削弱。

这个类比的问题在于：全球化确实发生了，工业经济体确实被掏空了。这可能不是一个警告，而是一个预言；难怪纳德拉会发出警报，因为微软可能就是其中的受害者之一。同样地，模型制造商的经济动机正是要实现这一点。

数据的迫切需求

目前，模型——甚至不是Mythos——尚未达到这一阶段。除了更多的计算能力，它们还需要更多和更高质量的数据。模型的改进越来越多地来自于强化学习；其中一些可以合成生成，但对前沿实验室来说，最强大的杠杆是真实世界的应用。

我认为，这也是为什么OpenAI和Anthropic都提供大量补贴的订阅计划的主要原因之一。SemiAnalysis最近估计，200美元的订阅计划可以让你获得价值8000美元的Claude代币和价值14000美元的Codex代币。当然，两者都在争夺用户和开发者的关注，但它们也在争夺实际使用数据的访问权限，以改进自己的模型。

Anthropic 在 Fable 的发布上大幅提高了赌注，宣布他们将保留所有使用数据 30 天，即使对于之前承诺零数据保留的企业计划也是如此。公司表示他们不会使用这些数据进行训练，但他们并没有采取任何类型的保障措施来确保未来不会这样做（例如将数据存储在第三方）。如果这一政策变更（无论 Fable 何时恢复）没有导致客户显著流失，我怀疑这只是时间问题，他们迟早会开始使用这些数据：这些数据对他们最终目标来说实在太有价值了。

另外还要注意与用户接触点的良性循环：与 Claude 或 Codex 直接完成的流程越多，每家公司获得的反馈数据就越多，这使得他们的产品更加有能力且有用，从而能够服务更多的流程，进一步扩大他们获取数据的渠道。

在自己的文章中，Nadella 强调了这些数据的重要性，但自然地认为这些数据应该独立于模型：

公司需要将他们的工作流程、领域知识和积累的判断转化为 AI 系统，这些系统会随着每次使用而不断改进。私有评估应捕捉模型是否真的在对业务至关重要的结果上有所改进（而不仅仅是外部基准！）。私有强化学习环境应允许模型在组织内部的真实数据轨迹上变得更强大。其知识库使机构记忆可查询，并提高令牌的使用效率。这个循环将成为公司的新知识产权。我认为它就像一个爬山机器。与大多数资产不同，它具有复利效应。每一个改进的工作流程都会产生更好的训练信号，从而加速公司特有的隐性知识的积累。那些早期构建这种能力的公司将拥有难以复制的优势，无论任何新的单个模型能力如何。

然而，如果那些屈从于 Anthropic 数据政策的公司现在能获得更好的结果呢？或者如果现有公司抵制，为新公司——甚至模型制造商本身——在市场上超越他们打开大门呢？Anthropic 显然正在对 Nadella 所呼吁的决心进行考验。

权力的必要性

令人惊讶的是，围绕 Fable/Mythos 的数据保留政策甚至不是发布中最具争议的部分。相反，Anthropic 在发布时表示，如果 Fable 被用于 LLM 开发，它将默默地降低性能；从系统卡片中：

我们还增加了与前沿大型语言模型（LLM）开发相关的保护措施。正如我们在2026年2月《风险报告》第6.1节中所讨论的，我们担心加快人工智能整体发展速度可能带来的风险，尽管我们仍不确定这些风险的严重程度。特别是，我们担心的是——正如我们当时所写的那样——“加速其他AI开发者构建与我们系统具有相似风险的强大AI系统，而这些开发者可能并不具备相应的安全措施。”鉴于近期模型自身加速发展的能力，我们已实施了新的干预措施，以限制Claude在针对前沿LLM开发的请求（例如构建预训练流水线、分布式训练基础设施或机器学习加速器设计）中的有效性。使用Claude来开发竞争性模型已经违反了我们的服务条款，但通过这些保护措施来执行这一限制，可以避免那些最愿意违反这些条款的参与者加速发展。与我们在网络安全、生物学、化学以及蒸馏尝试方面的干预措施不同，这些保护措施对用户是不可见的。Fable 5不会回退到其他模型。相反，这些保护措施将通过诸如提示修改、引导向量或参数高效微调（PEFT）等方法来限制有效性。这些干预措施不会影响绝大多数的编码工作。我们估计，它们将影响约0.03%的流量，且主要集中在不到0.1%的组织中。当这些干预措施生效时，我们预计它们对模型的行为影响将非常有限，除了限制其在开发前沿LLM方面的有效性。Claude仍将对用户的请求做出有帮助的回应。在该模型发布后，我们将继续改进检测方法的精确度。

Anthropic撤回了这一更改——Fable将直接将与LLM相关的请求转交给Opus 4.8，并向用户披露这一转交——但我认为最初的政策非常具有启发性。一方面，我实际上并不责怪Anthropic不愿意帮助其竞争对手；另一方面，显而易见的是，Anthropic认为除了他们之外，其他人不应该甚至开发前沿LLM。

这一政策之所以更加引人注目，是因为它是在Anthropic与战争部发生争议后仅两个月就实施的：后者希望将Claude用于任何合法用途，而前者则希望对监控和自主武器的使用施加更严格的控制。这种退化所代表的是Anthropic既具备也愿意默默地修改其模型以实现其政策偏好的能力。换句话说，Anthropic有意无意地验证了一些批评者对其作为供应链风险的最坏担忧。

然而，从之前的事件中可以得出的更广泛的结论是，Anthropic认为他们应该对如何使用Anthropic拥有最终的决定权；鉴于他们认为只有他们应该开发前沿AI，因此他们也认为只有他们应该对AI的使用拥有最终的决定权。当你将这一认识与公司关于AI能够执行所有经济活动的声明结合起来时，你会发现Anthropic的领导层实际上希望拥有对一切事物和所有人的控制权。

安全故事

当然，Anthropic 不会如此直白地表达；这个故事，实际上是关于安全的：

• 我预计 Anthropic 会越来越多地通过针对不同工作流程的定制端点，向终端用户展示其模型的能力，即使他们开始限制 API 的使用。这种软件的替换和访问权限的限制将以安全的名义进行，即使 Anthropic 需要满足其经济利益，即更接近终端用户。

• Anthropic 对其数据保留政策发生巨大变化的解释是安全。具体来说，公司声称保留所有用户数据 30 天是必要的，以防止美国政府担心的“越狱”行为。我当然可以想象一个未来，安全因素也会迫使他们使用这些数据进行训练，以更好地防范恶意使用。

• Anthropic 的整个起源故事都根植于其创始人对 OpenAI 不够重视安全的信念；该公司认为，只有他们才能控制人工智能，并且因为其独特地关心安全，他们有正当理由去控制其他人，包括美国政府。

关于这些安全理由，有件事需要说明：我认为它们之所以有效，是因为在 Anthropic 眼中，这些不是理由，而是他们真正相信的。公司真的相信，只有他们才相信超级智能，因此也是唯一足够关注其危险的人。这为他们的一系列决策、政策和冲突提供了借口，而这些决策和政策在外界看来，似乎是一种天真与老练的奇怪结合。

与 OpenAI 的对比是巨大的：我认为理解 OpenAI 为何失去领先地位的一种方式是，在 ChatGPT 发布后的几年中，该公司内部一直在与自己作战，原本只是一个研究实验室，突然间背负了成为一家意外的消费科技公司的重担；OpenAI 在解决这一冲突时，很大程度上是通过大量人才流失，特别是流向了 Anthropic。

另一方面，Anthropic 在人才、使命和商业目标之间实现了完美的对齐。公司可以向研究人员出售创造“机器神”的机会，同时披着那种关心危险并足够聪明以代表人类应对这些危险的人的外衣；每项政策的变化恰好对商业有利，这在世界上是最美丽的巧合。

我尊重这种对齐，我也害怕它。我尊重它，因为它显然非常有效；最接近的类比可能是苹果公司，苹果公司一直以对用户有利的名义包装所有自我服务的行为——而且很多时候确实如此。Anthropic 也是如此。然而，我所害怕的是，一方面，让人们相信他们最了解情况来制造一部我可以随意取舍的智能手机，这已经令人担忧；而另一方面，让他们制造出可能与或超越国家力量、甚至只是大型公司的超级智能，这则更加令人担忧。历史上，那些坚信自己知道人类需要什么的聪明人，其历史是肮脏的，正是因为他们说服了自己他们的意图是好的，从而为那些实际上并非如此的行为提供了正当理由。

分享

• 在 Facebook 上分享（在新窗口中打开） Facebook

• 在 X 上分享（在新窗口中打开） X

• 在 LinkedIn 上分享（在新窗口中打开） LinkedIn

• 通过电子邮件将链接发送给朋友（在新窗口中打开） Email

←

2026.24：嘿，Siri，给我讲个寓言故事