A Deep Dive on CoreWeave Innovations for NVIDIA Vera Rubin NVL72

CoreWeave创新深度解析 | CoreWeave博客

发布于

2026年6月17日

8

分钟阅读

CoreWeave在NVIDIA Vera Rubin NVL72上的创新深度解析

CoreWeave是首家部署并验证NVIDIA Vera Rubin NVL72的云服务提供商，在此过程中我们攻克了机架级AI基础设施中最棘手的挑战。

作者

Chen Goldberg

已复制

自主智能系统正在向具备自主推理、编排和自我优化能力的持续学习系统转变。万亿参数模型、百万token上下文窗口和持续在线会话正成为行业标准，其底层基础设施也必须同步快速演进。2026年1月，CoreWeave宣布将成为首批部署NVIDIA Vera Rubin平台的云服务提供商之一，与NVIDIA Ada Lovelace、Hopper和Blackwell平台共同在CoreWeave上运行。保持这一发展速度并不容易：每一代新硬件都需要与NVIDIA同步重新设计供电、散热、网络和软件系统。本月早些时候，CoreWeave成为首家成功验证并完成NVIDIA Vera Rubin NVL72诊断测试的云服务提供商。

六大创新。一个机架。无与伦比的规模

NVIDIA Vera Rubin NVL72整合了NVIDIA前沿技术——72块Rubin GPU、36颗Vera CPU、ConnectX®-9 SuperNIC™网卡和BlueField®-4 DPU。该平台通过NVIDIA NVLink™ 6交换机实现机架内智能扩展，借助NVIDIA Quantum-X800 InfiniBand和Spectrum-X™以太网实现横向扩展，为AI工业革命提供规模化支持。与NVIDIA Blackwell相比，其AI训练所需GPU数量减少四分之一，AI推理每百万token成本降低十分之一。

“我们的研究依赖于既强大又可靠的基础设施，随着在Hopper和Blackwell平台上的扩展，CoreWeave在两者上都实现了卓越表现。他们能够提供具备完整集群可观测性且支持团队能深入解决复杂问题的高性能集群，这让我们有信心与他们合作推进Vera Rubin项目。我们对机架级规模效率提升带来的训练速度加快和迭代周期缩短感到兴奋。”

Jane Street量化研究主管 Craig Falls

目前，十大基础模型提供商中有九家依赖CoreWeave。但我们对此从不自满。每一代新系统，我们都致力于实现更深入的优化、更精准的可观测性以及从第一天起就更完善的运维工具，从而实现更高的MFU（每秒浮点运算次数）、更大的吞吐量和更长的MTTF（平均无故障时间）。我们在Vera Rubin NVL72上采用相同方法，从液体冷却改进到集成在CoreWeave Mission Control™中的可观测性增强，开发了多项全栈创新。目标是：以其他云服务商无法实现的方式，充分释放机架级系统的潜力，让客户无需承担运维负担，直接专注于他们最擅长的事情——创新。

具备专利的阀门组件实现软件定义液体冷却

Valvey 是 CoreWeave Mission Control 的组成部分，是一种专利待审的可编程每机架液冷阀门组件，将冷却系统从被动机械装置转变为软件定义的控制界面。它监控并控制机架液冷回路中的所有变量，包括流量、温度、压力和泄漏检测，是执行所有冷却决策的唯一路径。当更高层级的系统需要优化冷却、隔离机架进行维护或触发紧急关机时，这些操作会自动通过 Valvey 执行，无需人工干预。

在大规模部署时，这一特性尤为重要。在多个机架共享远程 CDU 的架构中，Valvey 能够实现真正的每机架隔离；一个机架可以被维护或排空，而不会影响同一冷却回路中的相邻机架。其结果是能够快速隔离故障的大规模液冷基础设施，使客户在机群规模扩大时仍能保持更高的有效吞吐量。

Jacob Yundt，CoreWeave 的高级工程总监，与 Valvey 一同工作，Valvey 是 CoreWeave 的专利待审可编程液冷管理系统。

统一的机架控制：将硬件转化为可管理的云资源

Racky 是 CoreWeave Mission Control 的机架管理器，旨在为每个 Vera Rubin NVL72 机架提供标准化、可通过软件寻址的控制界面。位于机架顶部，它聚合了电源、冷却和环境传感器。这使 Racky 能够监控机架健康状况、控制阀门和电源功能，并收集必要的遥测数据（包括泄漏检测、流量和温度数据），同时向 CoreWeave 更广泛的基础设施暴露统一的管理接口。

Racky 与 Valvey 和机架生命周期控制器（RLCC）协同工作，共同构成 CoreWeave 的完整机架级控制堆栈：Valvey 执行冷却操作，RLCC 协调工作流程，而 Racky 是将所有功能整合在一起的每机架控制点。这意味着 CoreWeave 可以将每个 NVIDIA Vera Rubin 机架视为可管理的云资源，而非定制的一次性硬件安装，从而从第一天起实现舰队操作的一致性、可观测性和可扩展性。

Racky，CoreWeave 的统一机架管理器，聚合电源、冷却和环境传感器，用于监控和控制 Vera Rubin 机架的健康状况。

用于智能体 AI 的液冷以太网网络

CoreWeave 是首批部署 100% 液冷 NVIDIA Spectrum-X SN6600 以太网交换机的云服务提供商之一。Spectrum-X SN6600 在 NVIDIA 的 Spectrum-6 交换架构基础上构建，提供行业领先的 102.4 Tb/s 总交换容量，覆盖 128 个端口，每个端口最高可达 800 Gb/s。它代表了以太网交换技术的一代进步，专为大规模 AI 的带宽和低延迟需求而设计。作为 Vera Rubin 的扩展互连架构，Spectrum SN6600 将单个 NVL72 机架连接成一个统一的集群，使计算域的连贯性超越单个机架，使数千个 GPU 能够作为一个系统进行训练和推理，而非孤立的计算单元集合。

CoreWeave 的 Spectrum SN6600 部署之所以独特，不仅仅在于交换机本身，更在于围绕其构建的完整基础设施栈的工程设计。CoreWeave 将 Spectrum-X SN6600 与 Racky（我们的统一机架管理器）和 Valvey（我们的机架内液冷阀门组件）相结合。Racky 提供精确的实时电源分配和热环境控制，指挥 Valvey 在机架层面管理冷却，并实现按机架划分的软件定义冷却。通过如此紧密地管理电源和冷却，CoreWeave 使 Spectrum-X SN6600 始终保持最佳性能，在 Vera Rubin 集群中实现高带宽、低延迟的横向扩展网络。

互连选择：大规模多链路、多平面网络

CoreWeave 支持 NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X Ethernet（通过聚合以太网上的远程直接内存访问 RoCE）与 Vera Rubin NVL72 的组合，为客户提供构建大规模训练和推理集群的可扩展互连选择。两种互连方案均为完全无阻塞架构，并向运行在 Kubernetes 或 SUNK 上的工作负载暴露相同的 RDMA 设备接口，这意味着无论部署哪种后端互连，用户体验始终保持一致。NVIDIA ConnectX-9 SuperNIC 负责横向扩展连接，同时兼容 NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X Ethernet，实现跨互连类型和每 GPU 高带宽的灵活性。

虽然 InfiniBand 仍是大多数部署的默认选择，但对大规模需求的客户而言，RoCE 可能更具优势。CoreWeave 设计并构建了多链路、多平面的 RoCE 架构，提供高带宽连接。每个 GPU 都由一个 ConnectX-9 模块服务，每个端口支持高达 800 Gb/s，每 GPU 提供 1.6 Tb/s 的后端带宽。这形成了一种模块化、完全无阻塞的拓扑结构，可通过按平面逐步增加脊椎交换机实现扩展，支持超过 120,000 个 GPU 的配置。

CoreWeave 的多链路、多平面网络架构提供海量带宽和冗余能力。

为最大化每 FLOP 性能而构建的软件栈

CoreWeave 的软件栈专为优化 Vera Rubin NVL72 机架级架构的性能而设计。当大多数基础设施层将调度、容量管理和可观测性视为独立问题时，CoreWeave 将它们统一到单一操作平面，使客户能够全面掌握其集群状态，并充分释放 GPU 的性能潜力。

高性能数据传输。CoreWeave AI 对象存储支持本地对象传输加速器（LOTA），这是一个位于远程对象存储和 GPU 计算架构之间的本地机架级高吞吐存储加速层。通过在集群内部本地分阶段存储和提供训练数据，LOTA 消除了传统 I/O 瓶颈，避免 GPU 因等待数据而停滞。

NVIDIA NVLink 优化的编排。CoreWeave Kubernetes 服务（CKS）采用拓扑感知编排，在可能的情况下智能地将工作负载部署在高带宽 NVLink 域内。这最大限度地减少了跨互连通信，提升了分布式 AI 性能。因此，工作负载始终能够充分发挥 NVIDIA Vera Rubin NVL72 架构设计的全部创新和性能优势。

动态容量分配。CoreWeave 的 SUNK 在机架内将工作负载分配到最高效的 GPU 上，并在运行过程中持续减少碎片化。当推理流量激增时，SUNK 会动态重新分配同一集群中训练和推理工作负载的 GPU，使释放的容量在可用的瞬间立即投入工作。

可靠、透明且可操作的洞察。CoreWeave Mission Control 是 CoreWeave 在每台 Vera Rubin NVL72 系统上的运营层，统一了 Racky、Valvey 和生命周期控制器。它将机架级遥测、可观测性和生命周期管理整合到一个统一的管理平面中。

CoreWeave Mission Control 自动检测并启动不健康节点的替换，识别可能使作业停滞的 GPU 拖尾节点，并在一个统一视图中呈现从 GPU 利用率到网络行为的全部信息。专为用途设计的仪表板将这些信息细化到机架层面：Cabinet Visualizer 将每个机柜渲染为实时机架图示，显示每个节点的 NLCC、Kubernetes、GPU 温度和 NVLink 遥测数据，而 Cabinet Wrangler 则将整个机队汇总为健康生产 GPU 数量和每个 Vera Rubin NVL72 机架的可调度机架容量。这种组合为客户提供了持续自我优化的生产环境，即使集群规模扩大，也能保持运营复杂度稳定。

通过合作伙伴关系实现扩展

以这种速度交付 Vera Rubin NVL72 需要合作伙伴生态系统同步推进。Dell Technologies 的 PowerEdge XE9812 服务器提供了关键的架构骨干，与 CoreWeave 的加速计算织网共同设计，以确保在长时间训练运行和持续推理会话中保持性能一致。这一里程碑还引入了行业首批由 Micron 7600 驱动器支持的液冷 NVMe 存储解决方案，因此在最关键的时刻，存储在峰值热负载下仍能保持吞吐量。我们同样感谢 CSQUARE 在数据中心需求方面的协作，使此次部署成为可能。

保存日期：2026 年 6 月 30 日，请关注“在 CoreWeave 云上使用 NVIDIA Vera Rubin NVL72 扩展智能时代”直播

2026 年 6 月 30 日，加入 CoreWeave 和 SiliconAngle 的直播环节，了解如何在 NVIDIA Vera Rubin 平台上运行大规模智能 AI。专家将讨论硬件变更的实际意义，以及团队如何规划首次部署。在这里添加日历提醒，观看 SiliconAngle 的直播。

开始规划您的 NVIDIA Vera Rubin 部署

对 NVIDIA Vera Rubin NVL72 感兴趣？请申请简报，涵盖容量规划、入职时间表、工作负载适配以及平台如何映射到您的路线图。只需填写我们的兴趣表单即可开始。想深入了解？请继续阅读：

• 全连接 2026：9 月 29 日至 10 月 1 日，加入我们在旧金山举行的 AI 基础设施会议。

• SemiAnalysis ClusterMAX™：了解为什么 CoreWeave 是唯一获得铂金评级的 AI 云服务——而且是两次。

• CoreWeave 平台：探索从裸机到模型的原生 AI 堆栈，支持先驱者处理最复杂的 AI 工作负载。

CoreWeave 是首家成功部署并验证 NVIDIA Vera Rubin NVL72 的云服务提供商。了解我们如何通过专为用途设计的创新实现这一目标。

分享本文： /