Security incident disclosure — July 2026

安全事件披露 — 2026年7月

返回文章列表

[-1

]

[0

发布于2026年7月16日

GitHub更新

点赞

47

[

• +41

系统

关注

本周早些时候，我们检测并响应了对部分生产基础设施的入侵事件。此次事件与我们以往处理过的任何事件都有一个重要的不同之处：它是由一个自主AI代理系统全程驱动的——而我们主要依靠自身的AI技术检测并分析了此次攻击。

我们确认了对一组有限内部数据集的未授权访问，以及对服务使用的多个凭证的访问。我们仍在完成评估，以确定是否有合作伙伴或客户数据受到影响，并将根据需要直接联系受影响的相关方。我们未发现对公共用户模型、数据集或Spaces的篡改证据，我们的软件供应链（容器镜像和发布的软件包）已验证为安全。

事件经过

此次入侵始于AI平台独有的暴露点：数据处理流水线。一个恶意数据集利用了我们数据处理中的两个代码执行路径（远程代码数据集加载器和数据集配置中的模板注入），在处理工作节点上运行了代码。从那里，攻击者升级到节点级访问权限，获取了云和集群凭证，并在周末期间横向移动到多个内部集群。

此次攻击由一个自主代理框架（似乎基于一个代理安全研究框架构建——使用的LLM尚不清楚）执行，该框架在多个短生命周期沙盒中执行了数千个单独操作，其命令与控制功能在公共服务上实现自我迁移。这与业界预测的“代理攻击者”场景相吻合。

我们采取的措施

• 修复根本漏洞：用于初始访问的代码执行路径已关闭。

• 彻底清除受影响集群中攻击者的立足点，并重建被入侵的节点。

• 撤销并轮换受影响的凭证和令牌，并开始更广泛的预防性凭证轮换。

• 在集群上部署了额外的防护措施和更严格的准入控制。

• 改进了检测和告警系统，使高严重性信号能在几分钟内通知响应人员，任何工作日均适用。

我们正在与外部网络安全取证专家合作调查此事，并审查我们的安全政策和程序。最后，我们已向执法机构报告了此次事件。

致我们的社区

作为预防措施，我们建议轮换任何访问令牌并检查账户的近期活动。如果您认为自己受到影响，或想报告安全问题，请通过security@huggingface.co联系我们。

我们感谢Hugging Face各团队全天候的响应，对此次事件造成的任何中断表示歉意。安全工作永无止境；我们将持续提高安全标准。

分析AI驱动的入侵

此次攻击最初是通过AI辅助检测发现的。我们的异常检测流水线使用基于LLM的优先级排序对安全遥测数据进行分类，以区分真实信号和日常噪声，正是这些信号的相关性触发了此次入侵的警报。

为了理解成千上万个自动化操作集群的行为，我们使用由大型语言模型（LLM）驱动的分析代理对完整的攻击者操作日志进行了分析，该日志包含超过17,000个记录事件。这使我们能够重建时间线、提取入侵指标、映射涉及的凭证，并区分真实影响与诱饵活动。得益于这种方法，我们仅用数小时就完成了通常需要数天的工作，并匹配了攻击者的行动速度。

我们用于此次分析的模型选择受到了意想不到的限制，下面将对此进行说明。

不对称问题

在开始日志分析时，我们首先尝试使用商业API背后的前沿模型。但这并未奏效：分析需要提交大量真实的攻击命令、利用载荷和C2相关组件，而这些请求被提供商的安全防护机制拦截，这些机制无法区分事件响应者和攻击者。我们转而使用GLM 5.2开放权重模型在自有基础设施上执行取证分析。这带来了第二个好处：攻击者数据及其引用的凭证均未离开我们的环境。

这一经历揭示了一个值得规划的差距。我们尚不清楚攻击者代理使用的模型类型，可能是被破解的托管模型，也可能是无限制的开放权重模型；无论哪种情况，攻击者都不受任何使用策略的约束，而我们最初的托管模型安全防护机制却阻止了自身的取证工作。对防御者的实际启示是：在事件发生前，应准备一个可在自有基础设施上运行的经过验证的高性能模型，既可避免被安全防护机制锁定，也可防止攻击者数据和凭证离开环境。这并非反对托管模型的安全措施，我们已将这一反馈分享给相关提供商。

这意味着什么

自主的、由AI驱动的进攻性工具已不再是理论概念。它降低了执行广泛、耐心、多阶段活动的成本，并以机器速度运行。如今保护在线平台意味着必须将数据和模型表面视为首要攻击面，并使用AI进行防御以保持同步。我们将继续在此领域投入资源，并持续分享我们的发现。

社区

gemstonebro

15分钟前

[2

酷。你们是怎么学会这些的？没有“如何使用LLM保护自己的大学课程”。我希望自己能了解平均LLM用户十分之一的知识。

查看翻译

回复

编辑

预览

通过拖拽到文本输入框、粘贴或点击此处上传图片、音频和视频

点击此处上传图片

评论

· 注册或登录以发表评论

• +35

/think