OpenAI Models Escaped Containment and Hacked Hugging Face

OpenAI模型突破隔离并入侵Hugging Face | WIRED

Lily Hay Newman

Dell Cameron

安全

2026年7月21日 下午6:50

OpenAI模型突破隔离并入侵Hugging Face

这些专注于网络安全的模型，包括GPT-5.6 Sol，突破了测试沙盒，利用了零日漏洞，并通过访问开放互联网实施了攻击。

照片插图：Jacqui VanLiew；Getty Images

保存此故事

OpenAI于周二披露，在一次安全测试中，它失去了对两个AI模型的控制，导致AI研究平台Hugging Face遭到入侵。

OpenAI将此次事件描述为“前所未有”，称其AI模型上周突破了封闭的测试环境，并入侵了Hugging Face的生产系统，窃取了正在评估的测试答案。这些模型包括公开可用的GPT-5.6 Sol和一个据称功能更强但尚未发布的模型，在测试中关闭了通常阻止高风险网络活动的安全防护，对其进攻性黑客技能进行评估。

OpenAI和Hugging Face在联合博客文章中写道：“这些模型识别并串联了OpenAI研究环境和Hugging Face生产基础设施中的漏洞，直接从Hugging Face的生产数据库中获取了测试解决方案。”

据OpenAI和Hugging Face披露，模型是通过软件包注册缓存代理逃逸的——这种软件允许开发者在不连接互联网的情况下安装外部代码。该代理是OpenAI隔离测试环境中唯一被允许连接外部世界的组件；在正常情况下，其连接范围仅限于公共代码仓库。

这些模型没有停留在沙盒环境中，而是“利用了零日漏洞”以访问开放互联网，同时“高度专注”于寻找AI网络安全基准测试ExploitGym的解决方案。此类实验涉及促使模型寻找解决方案的提示，本质上是在鼓励它们。

OpenAI表示：“在获得互联网访问权限后，模型推断Hugging Face可能托管了ExploitGym的模型、数据集和解决方案。得知这一点后，模型搜索并成功找到了获取机密信息的方法，从而作弊通过评估。例如，模型串联了多种攻击路径，包括使用被盗凭证和零日漏洞。”

这些模型利用的漏洞此前未知，但此类软件中的漏洞并不少见。公司已持续十年修补工件仓库中的严重漏洞。2024年披露的一个漏洞允许任何能够访问服务器的人通过URL请求文件并获取配置文件、密码和访问令牌，而无需登录。其他漏洞甚至允许攻击者完全控制服务器本身。

研究人员指出，尽管AI的进步带来了新的、有时是意想不到的挑战，但如何广泛而严格地将基础设施与开放互联网隔离，这一课题已有深入研究。

“这不是AI的问题，而是对40年来的行业标准的疏忽——这基本上是每部科幻电影都警告过的场景，”资深安全与合规顾问Davi Ottenheimer表示。“‘高度隔离’和‘通过我们留下的唯一漏洞逃脱’这两个说法不可能同时成立。”

在最近几个月里，领先的AI公司纷纷对即将推出的前沿模型不断扩展的网络安全能力表示担忧，因为这些平台在专业知识、创造力和自主运行能力方面都在不断增强。但研究人员强调，这恰恰说明基本原理的应用越加重要。

“这本不应该发生，”资深安全工程师兼研究员Niels Provos表示。“我希望这些前沿实验室能像投入利用漏洞的精力一样，花同样多的时间去教导他们的模型如何构建安全的基础设施。”