CoreWeave Powers Agentic AI, HPC, and Data Analytics Workloads with NVIDIA HGX Rubin NVL8

NVIDIA HGX Rubin NVL8 本季度即将发布 | CoreWeave 博客

发布日期

2026年10月21日

5

分钟阅读

CoreWeave 通过 NVIDIA HGX Rubin NVL8 支持智能体 AI、高性能计算和数据分析工作负载

作者

Harsh Singh Banwait

已复制

NVIDIA Vera Rubin 架构的推出将计算性能和能效标准提升到了新的高度，其架构灵活性满足了下一代工作负载的需求。

对于智能体 AI、大规模分析和高性能计算（HPC）而言，内存容量和带宽通常是限制因素。NVIDIA HGX Rubin NVL8 将 HBM4 和第六代 NVIDIA NVLink 结合在八 GPU 节点中，专为这些工作负载设计，本季度将登陆 CoreWeave Cloud。以下是其提供的性能、适用场景以及我们为运行该系统所做的准备。

NVIDIA HGX Rubin NVL8 在降低运营成本的同时实现性能提升

HGX Rubin NVL8 将八块 NVIDIA Rubin SXM GPU 集成在单一主板上。NVIDIA 表示，该系统相比前代架构，令牌吞吐量最高可提升 10 倍，同时使用四分之一的 GPU 数量即可实现相同的训练性能。对工程团队而言，这种效率直接转化为更低的运营成本、更快的迭代周期，以及在高峰期也能为大量用户提供快速多步骤推理服务的能力。

实现这些性能提升的关键硬件规格包括：

• 增强的内存：总计 2 TB 的 HBM4 和 130 TB/s 的聚合内存带宽，支持在内存中实时处理大规模数据集，加速数据分析和高吞吐量智能体工作流。
• 低延迟 GPU 互联：第六代 NVLink 提供 24 TB/s 的节点内 NVLink 交换带宽，实现复杂张量并行智能体推理和紧密 HPC 模拟循环的超低延迟 GPU 通信。
• 高带宽扩展网络：八块 NVIDIA ConnectX-9 SuperNIC 提供每 GPU 最高 800 Gb/s 的后端连接，支持分布式训练、HPC 和大规模数据分析工作负载的节点间通信。
• 基础设施卸载：NVIDIA BlueField-4 提供前端连接，并支持网络、存储和安全卸载，有助于保留主机 CPU 资源用于应用程序工作负载。

对于智能体 AI 而言，10 倍的令牌吞吐量意味着相同基础设施可服务更多智能体和用户，因此即使在高峰期，每位开发者也能获得快速的多步骤帮助。凭借超低延迟和高带宽网络，HPC 模拟可减少等待 GPU 共享数据的时间，例如药物研发团队每天可筛选更多候选化合物，并更快将结果提供给研究人员。数据分析工作负载可在节点间更快传输大型数据集，例如金融服务公司可在交易日当天重新运行风险分析，并在市场开盘前为分析师提供更新的视图。

NVIDIA HGX Rubin NVL8 在运行 Kimi K2 Thinking（4K 输入/4K 输出）时，预计每兆瓦可实现高达 10 倍于 NVIDIA HGX B200 的每秒令牌处理能力。

在 DeepSeek-R1 上，NVIDIA HGX Rubin NVL8 使用四分之一的 GPU 数量即可匹配 NVIDIA HGX B200 的训练吞吐量。

构建在此基础上，CoreWeave 提供了一个专业平台，其功能和工具专为最大化 HGX Rubin NVL8 在智能体 AI、高性能计算（HPC）和数据分析工作负载中的效率和性能扩展而设计：

CoreWeave 创新

如何实现峰值性能

CoreWeave 任务控制®

CoreWeave 任务控制通过将基础设施视为一个持续监控的系统，从机架供电和冷却到 GPU 行为和工作负载性能，帮助 HGX Rubin NVL8 持续保持峰值性能。

HGX Rubin NVL8 采用 100% 液冷技术。为管理冷却系统，CoreWeave 自主开发了 Racky 和 Valvey。Racky 提供机架级别的控制点，而 Valvey 执行冷却和隔离操作。机架生命周期控制器（RLCC）协调上电、健康检查和恢复工作流程。这些功能共同作用，通过在问题发生前识别并解决基础设施瓶颈，确保智能体 AI 服务响应迅速、HPC 任务同步执行、数据分析流水线持续运行。

CoreWeave Kubernetes 服务（CKS）

CKS 为客户提供所需的托管集群、性能、安全性和运营基础，使他们能够专注于智能体 AI、HPC 或数据分析工作负载，而无需管理 Kubernetes 基础设施。

CoreWeave SUNK

SUNK 将 Slurm 的资源感知调度与 Kubernetes 的容器化和弹性能力相结合，使团队能够在共享基础设施上运行 HPC 和数据处理任务，而无需维护独立环境。

CoreWeave 直接专家支持

CoreWeave 客户可直接与负责部署 Rubin 一代系统的工程师合作，获得实际指导，以验证工作负载适配性、优化部署并在智能体 AI、HPC 和数据分析工作负载中排查性能问题。

用例适配：NVIDIA HGX Rubin NVL8 的优势领域

内存容量、内存带宽和快速 GPU 间通信决定了 HGX Rubin NVL8 上每种工作负载的表现。以下是其在智能体 AI、数据分析和 HPC 领域的具体表现：

智能体 AI

• 内存占用和 KV 缓存：凭借 2 TB 的 HBM4 内存，HGX Rubin NVL8 能轻松容纳大型键值（KV）缓存，支持百万令牌上下文窗口，使多个智能体会话可同时保持活跃。单节点部署可无缝执行模型和缓存，24 TB/s 的 NVLink 带宽在张量并行服务期间消除互连延迟。

• 吞吐效率：相比前代架构，每兆瓦的令牌吞吐量最高提升 10 倍，使您能以更低的成本运行并发轻量级智能体和多步骤推理工作流。

数据分析

• 横向扩展流水线加速：通过高带宽后端网络，GPU 加速的 ETL、数据框查询处理、向量索引和嵌入生成可跨节点水平扩展。

• 节点经济性：凭借 130 TB/s 的聚合内存带宽，HGX Rubin NVL8 为大规模数据流水线提供卓越的每行成本处理效率和吞吐量。

HPC

• 双精度密度：每八 GPU 节点提供 265 TFLOPS 的 FP64 双精度性能，系统可高效处理科学模拟、分子动力学和计算金融工作负载。

• 统一仿真与 AI 工作负载：高内存带宽和快速 GPU 间通信使您能够在统一硬件上运行混合流水线，将经典 HPC 仿真与 AI 代理模型结合。

准备迎接 NVIDIA HGX Rubin NVL8

本季度，NVIDIA HGX Rubin NVL8 将登陆 CoreWeave Cloud，为运行智能体 AI、数据分析和高性能计算工作负载的团队提供专为 AI 云构建的 Rubin 世代性能平台。立即开始规划 NVIDIA HGX Rubin NVL8 的部署。申请容量规划、上云时间线和工作负载适配的简报 — 或申请 ARENA Pass 亲自在 HGX Rubin NVL8 上运行您的工作负载。

想深入了解？探索相关资源：

• 专为智能体 AI 而生：CoreWeave 上的 NVIDIA Vera Rubin 深度解析
• CoreWeave 在 NVIDIA Vera Rubin NVL72 上的创新实践全解析
• 液冷交换技术使每机架 AI 网络带宽翻倍
• 构建智能体 AI 多平面网络架构的五大经验
• 部署多机架 NVIDIA Vera Rubin NVL72 集群的关键要素

单节点集成八块 NVIDIA Rubin GPU、2TB HBM4 显存及 NVIDIA NVLink 互联。了解 NVIDIA HGX Rubin NVL8 如何扩展智能体 AI、数据管道和高性能计算模拟的性能边界。

分享本文： /think