Run Agentic Workloads Safely at Scale with CoreWeave Sandboxes

CoreWeave Sandboxes 用于 Agentic AI | CoreWeave 博客

发布于

2026年5月14日

6

分钟阅读

使用 CoreWeave Sandboxes 安全地大规模运行 Agentic 工作负载

用于强化学习（RL）、代理工具使用和模型评估的执行层——现已开放使用。

作者

Corey Sanders

已复制

直到最近，模型通过阅读来了解世界。它们消费文本、预测下一个标记并生成更多文本。它们没有接触任何实际内容。

当今最强大的模型会采取行动。它们生成代码、调用工具、导航浏览器并代表用户执行操作。现在，Agentic AI 的训练循环需要执行功能。代理会探索操作空间并运行生成的代码，这些代码可能非常强大，但也可能造成损害。

当代理误以为需要执行 rm -rf / 时，删除操作应被限制在沙箱内。代理应了解其操作的实际影响。围绕它的集群应保持完整。这是沙箱级别的隔离。可靠地并行运行数千个沙箱，且一个沙箱的故障不会影响到下一个。

目前最积极推动这一领域发展的团队正在大规模运行强化学习（RL），构建代理工作流，并进行持续评估。今天，他们面临三个不完美的选择：自行构建沙箱基础设施、从其他供应商购买计算资源，或限制代理可以尝试的操作。随着研究规模的扩大，每个选择都会增加运营债务。工程时间被耗费在基础设施搭建上，计算资源利用率低下，治理漏洞则增加了运营和安全风险。

现在，第四种选择已在公开预览版中提供。CoreWeave Sandboxes 是一个用于大规模强化学习（RL）、代理工具使用和模型评估的执行层。您可以在多个 CoreWeave Kubernetes 服务（CKS）集群上使用自己的计算资源运行沙箱，也可以在 CoreWeave 管理的计算资源上作为无服务器运行时使用。

专为您的实际训练方式而设计

前沿研究意味着让代理探索操作空间并执行生成的代码。这些工作发生在执行层。

在 CKS 上，您的平台团队会根据您的训练方式配置沙箱。CoreWeave Sandboxes 在 Kubernetes 的每个 Pod 中运行独立的沙箱，由定义网络策略、资源限制和命名空间边界的配置文件进行管理。管理员只需设置一次边界，所有基于该配置文件生成的沙箱都会继承这些限制。

在无服务器运行时中，您从代码开始，而非配置。CoreWeave 通过强安全边界管理集群，默认情况下每个 CPU 沙箱都在 Kata Container 中运行，为每个沙箱提供独立的硬件虚拟化内核、文件系统和网络。这是目前针对这些工作负载最强的隔离模型之一，且开箱即用。研究人员使用现有的 W&B API 密钥进行身份验证，安装 Python 客户端后，几分钟内即可开始运行沙箱。无需预置集群，无需做出基础设施决策。您的机器学习工程师可以专注于在安全的企业级环境中运行沙箱。

一个沙箱内的故障不会扩散到其他沙箱。内存激增、无限循环和内存溢出错误会被限制在产生它们的 Pod 内。研究人员可以将发布规模扩展到数千个，而不会出现一个发布故障影响到下一个发布的情况。

CoreWeave 沙箱解决了我们在 AI 研究堆栈中的一个实际缺口：在现有计算资源中实现大规模的安全、隔离代码执行。我们的强化学习工作流程在每个训练步骤中并行启动数千个沙箱，每个沙箱都有自己的容器镜像和资源边界。采用过程无缝无阻——研究人员在安装 pip install cwsandbox 后几分钟内即可运行沙箱，无需任何基础设施知识。

Brian Belgodere，高级技术成员：AI/ML 系统，IBM 研究

在运行过程中迭代

当智能体部署在大规模场景下失败时，定位故障模式所需的信息通常分散在多个不连通的系统中：沙箱生命周期事件在一个系统，训练指标在另一个系统，LLM 跟踪记录在第三个系统。当 1000 次评估中有 37 次失败时，定位这 37 次失败需要跨系统关联时间戳，而这些系统之间没有共享上下文。调试成本会随着运行规模呈指数级增长。

每个沙箱都是训练运行的一部分。沙箱生命周期事件会与你的指标一同出现在 W&B 运行时间线中，并与所属的部署进行关联索引。W&B Weave 跟踪记录连接到每个沙箱的执行过程，因此每个模型调用、工具调用和返回值都会与生成它的沙箱相关联。智能体的代码、输入和输出会按沙箱进行捕获，并与运行记录一同存储，后续可进行查询。

你无需切换系统或从基础设施日志中重建上下文。你始终处于运行过程中。

从现有计算资源中获取更多价值

计算资源紧张，而强化学习训练会将每个步骤的沙箱数量推至数千级别。当路由到独立的沙箱供应商时，沙箱会引入跨集群延迟、第二种计费模式以及另一个容量上限，这在你已经接近现有容量上限的情况下尤为棘手。

在 CKS 上，CoreWeave 沙箱会在你已运营的集群中进行调度，利用任何可用的容量，包括在运行 SUNK 时 GPU 节点上的空闲 CPU。配置文件定义了每个沙箱可访问的计算资源：实例类型、CPU 和内存、存储。

管理独立集群并在不同节点类型上调度沙箱缺乏统一的解决方案，这耗费了我们的时间和资源。CoreWeave 沙箱消除了这个问题。我们现在可以在 CPU 节点上同时运行数百个并发沙箱，并在 GPU 节点上与 Slurm 训练任务并行运行，所有操作都通过单一配置完成。Python SDK 让我们的研究人员能够立即上手，CoreWeave 团队也与我们紧密合作，将开源 SDK 无缝集成到我们的代码库中。

Roman Soletskyi，AI 科学家，Mistral

开始运行沙箱

CoreWeave 沙箱今天通过两种使用路径提供，两者都基于相同的 Python 客户端和 CoreWeave 管理的统一控制平面。

对于在 CoreWeave 上运行训练的平台团队，只需一条 CLI 命令即可在现有 CKS 集群中启用沙箱。CoreWeave 管理处理身份验证和请求路由的控制平面，并在你的集群内部部署一个 Runner 来调度和管理每个沙箱。你的团队无需部署或操作这些组件。研究人员安装 Python 客户端（pip install cwsandbox）后，无需任何 Kubernetes 交互即可立即运行沙箱。

1
from
cwsandbox
import
Sandbox
2
3
with
Sandbox.run()
as
sandbox:
4
result = sandbox.
exec
([
"echo"
,
"Hello Sandboxes!"
]).result()
5
print
(result.stdout)
6

1
from
wandb.sandbox
import
Sandbox
2
3
with
Sandbox.run()
as
sandbox:
4
result = sandbox.
exec
([
"echo"
,
"Hello Sandboxes!"
]).result()
5
print
(result.stdout)
6

适用于人工智能开发的正确执行层

模型不再只是训练一次。它们通过强化学习、代理工具使用和大规模评估持续改进。从事这些工作的团队需要一个能够按照自己的节奏、在自己的计算资源上运行的执行层，而不会增加运营负担。

CoreWeave 沙盒就是这样的执行层，既可以部署在您自己的集群上，也可以作为无服务器运行时。

#### 入门指南

现有 CoreWeave 客户可以直接在 Cloud Console 中启用沙盒。

需要自助服务访问的团队可以通过 Weights & Biases 开始使用：文档

pip install wandb[sandbox]

CoreWeave 沙盒在您的集群上或作为无服务器运行时，为强化学习、代理工具使用和模型评估提供隔离的执行环境。

分享这篇文章： /think