‘Dangerous’ AI Models Are Coming No Matter What
TL;DR · AI 摘要
AI模型的双重用途特性将不可避免地带来安全风险，政府监管难以完全遏制其发展。
核心要点
- Anthropic的Mythos 5模型具备发现和利用软件漏洞的双重能力。
- 美国政府试图限制该模型的使用，但专家认为其他公司可能已具备类似能力。
- AI模型的先进功能将很快成为行业常态，监管难以完全阻止其扩散。
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI模型的双重用途与监管挑战
- Anthropic模型
- Mythos 5模型的双重用途
- 政府限制措施
- 模型的潜在安全风险
- 行业趋势
- 其他公司可能已具备类似能力
- 监管难以完全遏制AI模型扩散
金句 / Highlights
值得收藏与分享的关键句。
A great deal of advanced usage of AI models is dual use: the same queries that are beneficial in the hands of cybersecurity professionals and biology researchers could be dangerous if available to mal
It's myopic in the extreme to think that no other competitors to Anthropic will develop similar capabilities to Mythos or even that they have not already done so.
The real message is that this is not about the model or Anthropic. We need to prepare now for a world where these capabilities are broadly available in 6, 1
无论发生什么，危险的 AI 模型都将到来 | WIRED
Lily Hay Newman
安全
2026 年 6 月 16 日 下午 1:50
无论发生什么，危险的 AI 模型都将到来
美国政府对 Anthropic 的 Claude Fable 5 和 Mythos 5 模型的打压掩盖了一个显而易见的事实：具备高级黑客能力的 AI 模型很快将成为常态。
Anthropic 首席执行官 Dario Amodei。
照片：Jason Henry/Bloomberg/Getty Images
保存这个故事
上周晚些时候，Anthropic 在美国政府的一项出口管制指令下，将新推出的 Claude Fable 5 和 Mythos 5 AI 模型下线，该指令禁止“任何外国公民”使用这些服务。自周五以来，该公司一直在与白宫进行谈判，但尚未达成一项协议，使其能够重新上线这些服务。
自 4 月 Mythos 首次发布以来，Anthropic 就声称并警告称，该模型不仅具备发现软件漏洞以帮助防御者修复漏洞的高级能力，还具备找出利用这些漏洞的方法，这些方法可能被恶意行为者使用。在发布 Mythos 5 和 Claude Fable 5 时，Anthropic 本身也指出了这种双刃剑效应。该公司在上周的一篇博客文章中写道：“AI 模型的许多高级用法都是双用途的：在网络安全专业人员和生物学家手中，相同的查询可能是有益的，但如果被恶意行为者获取，就可能变得危险。”
鉴于此，该公司最初向一个精选的联盟组织发布了一个名为 Mythos Preview 的版本，该组织是名为 Project Glasswing 的工作组的一部分。上周，Mythos 5 也私下向该小组发布，而 Claude Fable 5（这是一个 Mythos 级别的模型）则向公众发布，但对其回答有关生物学和网络安全问题的能力进行了特定限制。
然后，在上周末，特朗普政府采取行动限制这两款模型，因为它认为 Fable 5 的防护机制可以被禁用，从而允许完全访问 Mythos 5 的功能，据称这构成了国家安全风险。
然而，专家表示，这种制度性冲突只是推迟或掩盖了一个严峻的事实：Anthropic 可能只是当前的先锋，但总体而言，AI 能力以及多家公司和开源权重开发者的模型在不久的将来几乎肯定会具备与 Mythos 5 相似的功能——如果它们还没有的话。
“认为没有其他竞争对手会开发出与 Mythos 类似的功能，甚至认为它们还没有这样做，这是极端短视的，”专门网络安全咨询公司 TPO Group 的首席安全官 Tarah Wheeler 表示。“还有其他公司正紧随 Anthropic 之后，它们可能也具备这些能力，并且正在储备这些能力，以观察 Anthropic 在当前监管环境下的处境。”
自 Mythos Preview 发布以来，Anthropic 本身也强调了这一点。该公司前沿红队负责人 Logan Graham 在 4 月 Mythos Preview 发布时告诉 WIRED：“真正要传达的信息是，这并不关乎模型或 Anthropic 本身。我们现在就需要为一个世界做好准备，在 6 个月、12 个月、24 个月内，这些能力将广泛可用。”
例如，OpenAI 也在 4 月中旬私下发布了一个专注于网络安全的模型，并宣布了扩展的网络安全战略。
研究人员指出，即使在下一代模型出现之前，现有的人工智能产品也可以通过优化的工具用于高级漏洞挖掘和攻击利用开发。周日，一群网络安全领域的领导者在一封公开信中向政府表达了这一观点，认为白宫的出口管制指令是错误的。
“这不是一个模型的问题，而是技术发展的普遍趋势，”哈佛大学和多伦多大学的研究员布鲁斯·施奈尔（Bruce Schneier）表示，他一直在分析这一情况。“更小、更便宜、开源的模型，有时单独使用，有时协同使用，可以通过更复杂的提示匹配Mythos/Fable的性能。我们预计，其他模型在几个月内就能达到Mythos/Fable的创造力和坚韧程度——开源模型可能需要稍长时间。”
专家表示，白宫和全球各国政府需要关注的是，如何民主化地制定更广泛、更透明的计划，以应对人工智能能力在网络安全及其他敏感领域不可避免的发展。
“政策问题的关键不在于某种技术是否存在风险，”云安全公司Veracode的联合创始人克里斯·维索普（Chris Wysopal）表示，“关键在于，特定的限制是否真正降低了这种风险，还是仅仅延缓了那些试图让系统更安全的人。”