CoreWeave

NVIDIA Vera CPU Is Coming to CoreWeave: Pack In More Agents

6.9内容质量
NVIDIA Vera CPU Is Coming to CoreWeave: Pack In More Agents

TL;DR · AI 摘要

NVIDIA Vera CPU: The First CPU for AI Agents CoreWeave Blog Published on September 30, 2026 4 min read NVIDIA Vera CPU I...

核心要点

  • 主题聚焦:NVIDIA Vera CPU Is Coming to CoreWeave: Pack In
  • 来源:CoreWeave,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#编程#后端#云计算#产品
打开原文

NVIDIA Vera CPU:专为AI代理打造的首款CPU | CoreWeave博客

发布日期

2026年9月30日

4

分钟阅读

NVIDIA Vera CPU即将登陆CoreWeave:容纳更多AI代理

作者

Harsh Singh Banwait

已复制

NVIDIA Vera CPU即将在CoreWeave平台上线。这是首款专为AI代理打造的CPU,基于AI专用的裸金属架构运行。在AI工作循环中,发布日仅仅是起点。模型和代理通过运行、观察、整理、优化和评估的持续循环不断改进。当GPU负责生成和推理时,CPU则处理所有外围工作:每个代理依赖的沙箱环境、工具调用和数据管道。每个组件都针对其特定角色进行设计,它们的协同配合才能发挥最大效能。随着后训练和代理工作负载的持续增长,CPU在每次AI循环中承担的工作比例也在持续上升。

专用硅芯片应对专用工作负载

AI技术的演进不断推动基础设施向专业化发展。GPU最初优化用于训练、生成和推理,数据处理单元(DPUs)则接管了网络、存储和基础设施任务。如今,代理AI需要更进一步的优化:在集群规模上执行代理工作、具备高负载下稳定性能的专用硅芯片。这类工作需要与GPU集群协同工作的专用CPU算力,且能根据工作负载进行扩展。

NVIDIA Vera是首款基于Arm架构、专为AI代理打造的CPU,搭载88个定制Olympus核心,专为处理代理生成的高分支密度和内存密集型工作负载而设计。强化学习环境、后训练流水线和数据预处理现在都可以在集群规模上运行。沙箱代理执行环境在训练和推理阶段均可跨所有资源运行,每个工具调用和代码执行都会落在CPU核心上。在CoreWeave的测试中,与替代的x86 CPU相比,NVIDIA Vera CPU实现了超过3倍的代理沙箱启动速度提升。

每组Vera Rubin NVL72计算托盘配备两颗Vera CPU和四颗Rubin GPU,实现每机架36颗CPU和72颗GPU的协同工作。独立部署的Vera算力则在保持相同专业化优势的同时,可根据您的工作负载独立扩展。在CoreWeave平台上,Vera的运行方式与您集群中的其他设备完全一致:裸金属架构,统一平台、消费模型和经济体系。

单个机架支持11,000个并发环境

在代理AI中真正重要的指标是并发环境的扩展能力。性能瓶颈出现在节点无法承载更多代理时,此时每个环境的性能会变得迟缓且不可预测。Vera通过硅芯片层面的创新突破这一瓶颈:空间多线程技术为每个线程分配独立的处理器资源份额,避免线程竞争,确保满负荷运行时的性能稳定性。CoreWeave进一步通过基础设施优化提升这一能力:无虚拟机开销的裸金属架构,配合每个Vera节点上的BlueField-4 DPU,将网络、存储和运维任务卸载,确保所有核心始终专注于您的工作负载。

每个NVIDIA Vera CPU节点配置:

  • 2颗NVIDIA Vera CPU,每颗包含88个核心
  • 1.5 TB内存
  • 15.36 TB NVMe本地存储
  • BlueField-4 DPU,800Gbps带宽

在CoreWeave平台实现机架级规模时:

  • 单个机架集成128颗Vera CPU和11,264个核心
  • 每个机架支持超过11,000个并发环境

对于需要规划数万个环境的团队而言,机架将成为规划的基本单元,而非单个节点。

NVIDIA Vera CPU机架

数据预处理流水线和强化学习(RL)训练回合的需求具有突发性且难以预测。AI循环中的单个步骤可能在某一小时内需要数万个环境,然后在下一次运行前几乎没有任何需求。按峰值购买会导致容量闲置,按平均值购买则会导致训练等待。

由于Vera能够在规模上提供可预测的性能,CoreWeave的消费模型让您按工作负载的形态购买资源,而非闲置的CPU周期:

  • 承诺容量承载您的基础负载。
  • 无服务器溢出处理突发高峰。
  • Spot容量以高达60%的折扣运行可中断任务,提供7分钟预emption预警,确保任务能够正确检查点并优雅退出。

所有突发需求始终在您的平台内处理。CoreWeave Sandboxes在CoreWeave Kubernetes Service(CKS)和Serverless平台上运行,与您的训练集群原生共存,无需迁移数据。您已持有的容量上,承诺的CPU在运行间隔期间原本会闲置,现在可免费用于代理和评估工作。由于所有资源均基于同一专为AI打造的基础设施,您可即时扩展。统一的控制平面覆盖GPU和CPU集群:CKS、CoreWeave SUNK 和 CoreWeave Mission Control。

正确的芯片,匹配的工作负载

代理执行、强化学习环境和数据流水线各自在不同芯片上表现最佳,且随着循环演进,最佳选择也会变化。通过Vera,NVIDIA加入CoreWeave多供应商CPU组合,与AMD EPYC和Intel Xeon共同提供裸金属解决方案,所有芯片均基于统一运营模型。您可以将每个工作负载精准匹配到最适合的芯片上,且无需重新平台化。

Vera还提供与您的GPU架构兼容的Arm容量。Vera CPU架构与现代NVIDIA GPU系统内部的Arm主机一致,包括Vera Rubin NVL72中的Vera CPU,因此一套工具链可跨整个集群运行。

在最适合的芯片上运行AI循环

Vera CPU即将推出。如果您的沙盒集群、强化学习环境或数据流水线已超出通用CPU容量,请联系我们,我们将与您共同规划资源。

专为AI代理打造的首款CPU即将登陆CoreWeave。了解NVIDIA Vera如何将11,000个活跃环境整合到单个机架中,吸收突发需求,并加入多供应商CPU组合。

分享本文: /share