"Dangerous" AI models are coming no matter what
TL;DR · AI 摘要
先进AI模型的双刃剑特性将不可避免地出现，政府监管难以阻止其发展。
核心要点
- Anthropic的Mythos 5模型具备发现和利用软件漏洞的双重能力。
- 美国政府限制Mythos 5的使用，认为其可能构成国家安全风险。
- 专家认为，其他公司可能已具备类似Mythos 5的能力，监管难以阻止AI发展。
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI模型的双刃剑特性
- Mythos 5模型
- 发现软件漏洞
- 利用软件漏洞
- 政府监管
- 限制使用
- 国家安全风险
- 专家观点
- 其他公司可能已具备类似能力
- 监管难以阻止AI发展
金句 / Highlights
值得收藏与分享的关键句。
A great deal of advanced usage of AI models is dual use: the same queries that are beneficial in the hands of cybersecurity professionals and biology researchers could be dangerous if available to mal
The real message is that this is not about the model or Anthropic.
It’s myopic in the extreme to think that no other competitors to Anthropic will develop similar capabilities to Mythos or even that they have not already done so.
无论发生什么，“危险”的AI模型都将到来
“这是技术发展的普遍趋势”
无论发生什么，“危险”的AI模型都将到来
具备高级黑客能力的AI模型很快将成为常态。
Lily Hay Newman，WIRED.com
–
2026年6月17日 下午1:50
|
78
Dario Amodei在2026年旧金山Code with Claude活动上的舞台。
图片来源：Samuel Axon
按钮
文本设置
面板
故事文本
大小
小号
标准
大号
宽度
*
宽屏
链接
橙色
- 仅限订阅者
了解更多
最小化到导航栏
上周晚些时候，Anthropic根据美国政府的一项出口管制指令，将新推出的Claude Fable 5和Mythos 5 AI模型下线，该指令禁止“任何外国国民”使用这些服务。该公司自周五以来一直在与白宫进行谈判，但尚未达成一项协议，允许其重新提供这些服务。
自4月Mythos发布以来，Anthropic声称并警告称，该模型不仅具备发现软件漏洞以帮助防御者进行修补的高级能力，还能够找出被恶意行为者利用的漏洞方法。在推出Mythos 5和Claude Fable 5时，Anthropic本身也指出了这种双刃剑效应。该公司在上周的一篇博客文章中写道：“AI模型的许多高级用法都是双重用途：在网络安全专业人员和生物学家手中，相同的查询可能是有益的，但如果被恶意行为者获取，就可能变得危险。”
考虑到这一点，该公司最初向一个精选的联盟组织发布了一个名为Mythos Preview的版本，该组织属于一个名为Project Glasswing的工作组。上周，Mythos 5也私下向该小组发布，而Claude Fable 5（这是一个Mythos级别的模型）则向公众发布，但对其回答生物学和网络安全问题的能力进行了特定限制。
然后，上周末，特朗普政府采取行动限制这两个模型，因为它认为Fable 5的防护措施可以被禁用，从而允许完全访问Mythos 5的功能，据称这构成了国家安全风险。
然而，专家表示，这种机构间的冲突只是推迟或掩盖了一个严峻的事实：Anthropic可能只是当前的先锋，但总体而言，AI能力和来自多家公司以及开源权重开发者的模型几乎肯定会很快具备与Mythos 5类似的特性——如果它们还没有的话。
“极端短视地认为没有其他竞争对手会开发出类似Mythos的能力，甚至认为它们尚未做到这一点，这是错误的，”专门的网络安全咨询公司TPO Group的首席安全官Tarah Wheeler表示。“还有其他公司紧随Anthropic之后，他们可能也具备这些能力，并且正在储备这些能力，因为他们看到Anthropic在当前监管环境下的处境。”
自Mythos Preview发布以来，Anthropic本身也强调了这一点。该公司前沿红队负责人Logan Graham在4月Mythos Preview发布时告诉WIRED：“真正要传达的信息是，这并不关乎模型或Anthropic。我们现在就需要为一个世界做好准备，在这个世界上，这些能力将在6个月、12个月、24个月内广泛可用。”
例如，OpenAI也在4月中旬私下发布了一个专注于网络安全的模型，并宣布了扩展的网络安全战略。
研究人员指出，即使在下一代模型出现之前，现有的 AI 技术已经可以借助一个经过优化的工具，用于高级漏洞挖掘和攻击利用开发。一群网络安全领域的领导者在周日的一封公开信中向政府表达了这一观点，他们认为白宫的出口管制指令是错误的。
“这不是一个模型的问题，而是技术发展的普遍趋势，”哈佛大学和多伦多大学的研究员布鲁斯·施奈尔（Bruce Schneier）表示，他一直在分析这一情况。“更小、更便宜、开源的模型，有时单独使用，有时协同使用，可以通过更复杂的提示匹配 Mythos/Fable 的性能。我们预计在几个月内，其他模型将能够匹配 Mythos/Fable 的创造力和坚持不懈的特性——开源模型可能需要稍长时间。”
专家表示，白宫和全球各国政府需要关注的是，如何民主化地制定更广泛、更透明的计划，以应对人工智能能力在网络安全及其他敏感领域不可避免的进展。
“政策问题的关键不在于某种技术是否具有风险，”云安全公司 Veracode 的联合创始人克里斯·维索普（Chris Wysopal）表示，“关键在于特定的限制是否能真正降低这种风险，还是仅仅延缓了那些致力于使系统更安全的人。”
本文最初发表于 wired.com。
WIRED
Wired.com 是你了解未来的重要每日指南，为你提供关于创新对技术、科学、商业和文化影响的最原创和最完整的解读。
78 条评论