From 732 bytes to nowhere: shutting down Copy Fail in production
TL;DR · AI 摘要
本文主要介绍了Together AI平台的多项服务更新，但缺乏深度和实用性的技术细节。
核心要点
- Together AI平台更新了多项服务
- 包括服务器无感推理、批量推理等
- 但未提供具体技术实现细节
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- Together AI平台服务更新
从 732 字节到无处可寻：关闭生产中的 Copy Fail
⚡️ FlashAttention-4：在 NVIDIA Blackwell 上比 cuDNN 快达 1.3 倍 →
🔎 ATLAS：运行时学习加速器，最多可使 LLM 推理快 4 倍 →
⚡ Together GPU 集群：自助式 NVIDIA GPU，现已普遍可用 →
📦 批量推理 API：大多数模型的成本降低 50%，处理数十亿个标记 →
[](https://www.together.ai/)
- 
- 
- 
- 
Nano Banana Pro 
Qwen3.5-397B 
GLM-5 
kimi k2.5 
gpt-oss-120B 模型库 探索顶级开源模型](https://www.together.ai/models)
加速计算
- 
- 
开发环境
- 
存储
- 
- 
- 
Llama 4 Maverick Model library Fine-tune top open-source models](https://www.together.ai/models)
- 
- 
特色出版物
- 
- 
- 
- 
MiniMax M2.5
Nano Banana Pro
Qwen3.5-397B
GLM-5
kimi k2.5
gpt-oss-120B 模型库 探索顶级开源模型 探索
* 加速计算
- 
- 
开发环境
- 
存储
- 
*
- 
- 
DeepSeek V3.1
GLM 5 FP4
Qwen3-VL 32B
gpt-oss-120b
kimi k2.5
Llama 4 Maverick 模型库 微调顶级开源模型 微调
*
- 
- 
精选出版物
*
- 
- 
- 
- 
资源
- 
- 
- 
- 
- 
公司
- 
- 
公司
发布日期：2026年4月30日
从732字节到无处可去：关闭生产中的Copy Fail
- 作者：德里克·查莫罗，马克西姆·卡尔卡
- 目录
- 40+个模型选择用于生产……40+个模型选择用于生产……40+个模型选择用于生产……
摘要
我们将Copy Fail（CVE-2026-31431）视为一次舰队级紧急事件，并在数小时内关闭了基础设施中易受攻击的加密套接字接口，一旦内核补丁在我们的AI工作负载中稳定后就进行了部署。在上游修复措施广泛可用之前，我们依赖于一个有针对性的内核加固步骤：卸载易受攻击的模块并将其从模块路径中移除，以防止其被无声地重新启用。
Copy Fail一句话总结
Copy Fail（CVE-2026-31431）是Linux内核加密子系统中用于AEAD操作的algif_aead AF_ALG接口中的逻辑错误。它允许任何未授权的本地用户对系统上任何可读文件的页缓存进行精确的4字节写入。实际上，公开的漏洞利用会在内存中的共享、设置了SUID的二进制文件中翻转几个字节，并借此获得主流Linux发行版的root权限。磁盘上的文件从未改变，页面也从未被标记为脏，这意味着即使修改后的二进制文件运行，传统的文件完整性检查也不会发现攻击。
这对AI基础设施的重要性
在开发人员笔记本电脑上，Copy Fail只是一个本地权限提升。在现代AI平台中，“本地”通常意味着CI作业、多租户GPU节点、临时研究环境或第三方工作负载带来的自己的依赖项。
从云和AI的角度来看，风险如下：
- 在具有访问AF_ALG套接字权限的容器内部的妥协可以转化为宿主机的root权限。
- 因为页缓存是共享的，一个工作负载的写入可能会微妙地破坏同一节点上其他租户使用的二进制文件或库。
- 一旦宿主机被攻破，访问附加存储、控制平面和相邻工作负载变得容易得多。
我们已经假设容器不是安全边界。如果暴露了易受攻击的接口，Copy Fail正是那种安静且确定性的原始工具，可以在共享内核的多租户环境中迅速缩小剩余的安全边际。
我们的即时响应：禁用所有地方的`algif_aead`
一旦有效的漏洞细节公布，我们立即关注最直接的杠杆：停止暴露易受攻击的AF_ALG接口。
对于Together AI的生产工作负载，我们在推理或训练主机上不依赖用户空间的algif_aead套接字。这使我们能够在整个舰队中采取一种简单但安全的行动：
卸载algif_aead模块会立即关闭运行内核中的易受攻击代码路径。将模块文件移出标准模块目录可以防止系统服务或自动化在正常操作期间重新加载它。
这种方法有几个重要特性：
- 快速：不需要重启，这对于运行长时间的GPU作业来说很重要。
- 低风险：典型的服务器和AI工作负载并不直接依赖AF_ALG AEAD套接字，因此操作影响很小。
- 持久：即使主机重启到相同的易受攻击内核，
algif_aead仍然会被禁用。
我们将此编码为配置管理中的幂等合规检查：主机在模块未加载且.ko文件被隔离之前被视为不健康。
安全地推出内核补丁
禁用algif_aead只是缓解措施，而不是最终状态。一旦供应商发布了CVE-2026-31431的补丁，我们将进入更传统的生命周期管理阶段：
- 在非生产集群中逐步引入修补的内核，这些集群模拟我们最繁重的 AI 工作负载，包括密集的多租户 GPU 节点。
- 运行加速的浸泡测试以评估性能、GPU 驱动程序兼容性和在实际推理和训练负载下的稳定性。
- 通过区域和环境逐步推出修补的内核，从使用较少共享的集群开始，逐渐过渡到高度多租户的集群，前提是遥测数据保持干净。
即使在打补丁之后，我们仍然会在没有明确需求的环境中禁用 algif_aead。一旦某个地方出现问题，狭窄且专门的内核接口可能会产生生态系统范围的影响；如果我们能够安全地在没有它们的情况下运行，我们会选择这样做。
同时，我们的检测团队向遥测系统中添加了 Copy Fail 意识信号：
- 对于节点上不应发生意外 AF_ALG 使用或加密模块加载的情况发出警报。
- 监控特权二进制文件的行为，即使磁盘上的镜像未发生变化，也要寻找异常行为。
构建安全 AI 平台的经验教训
Copy Fail 很好地说明了小型内核错误如何在 AI 基础设施中产生不成比例的影响：
- 共享内核和密集的多租户会将局部错误放大为跨租户风险。
- 页面缓存技巧可以绕过传统的基于文件完整性的防御措施。
- 曾经“无人使用”的狭窄接口可能突然成为主要攻击面。
在 Together AI，我们的经验是不断收紧内核暴露模型：对于特定接口默认关闭，出现问题时快速全局切换，并且有一个验证管道来证明这些决策与高性能 AI 工作负载兼容。
在 Together AI 开始构建
从优化训练和模型塑造到大规模生产推理
* 产品
- 模型
查看所有模型DeepSeek Meta Qwen Google OpenAI Mistral AI 自定义模型 * 开发者
定价
* 资源
© 2026 Together AI. All Rights Reserved.
- [](https://discord.gg/9Rk6sSeWEG)
- [](https://x.com/togethercompute)
- [](https://www.linkedin.com/company/togethercomputer/)