CoreWeave

Liquid Cooling for AI Data Centers: Run Cold, Act Bold

8.5内容质量
Liquid Cooling for AI Data Centers: Run Cold, Act Bold

TL;DR · AI 摘要

液冷技术显著提升AI数据中心GPU性能并减少环境影响,CoreWeave通过直接到芯片的液冷方案成为行业领导者。

核心要点

  • 直接到芯片液冷使周围空气温度上升减少50%
  • CoreWeave 2024年投资液冷技术应对AI设备高功率密度需求
  • 闭环系统通过回收非毒性冷却剂降低30%环境影响

结构提纲

按章节快速跳转。

  1. §液冷技术演进

    梳理液冷技术从全浸式到芯片直冷的发展历程

  2. 解析液体与空气分子密度差异导致的散热效率差异

  3. 说明芯片直冷技术如何提升GPU性能并降低温度波动

  4. ›闭环系统优势

    阐述闭环液冷在环保性和可持续性方面的突破

  5. 分析CoreWeave 2024年液冷投资决策的技术经济性

  6. 统计90%头部基础模型厂商采用该技术的行业渗透率

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 液冷技术在AI数据中心的应用
    • 散热原理
      • 分子密度差异
      • 热传导效率
    • 技术方案
      • 直接到芯片
      • 闭环系统
    • 行业影响
      • CoreWeave案例
      • 客户覆盖

金句 / Highlights

值得收藏与分享的关键句。

#液冷技术#AI数据中心#CoreWeave#GPU性能优化
打开原文

AI数据中心的液冷技术 | CoreWeave博客

发布于

2026年5月4日

5

分钟阅读

AI数据中心的液冷技术:保持低温,实现高效能

作者

CoreWeave团队

已复制

数据中心运营商已经经历了多次利用液体冷却设备的周期。这些周期包括全浸式液冷、机架后部液冷以及环境空气温度液冷。值得注意的是,曾经长期使用的风冷技术正在向新的液冷技术过渡。直触芯片的液冷技术能显著提升GPU性能,而闭环系统则能减少对环境的影响。

设备层面的"冷却"概念存在一定的误导性。芯片产生的热量波动会导致环境温度上升,这不仅威胁芯片性能,还可能造成永久性损坏。设备"冷却"系统的真正目标并非单纯降低设备温度,而是尽可能快速地将设备产生的热量转移出去。

风冷技术通过将空气流经发热部件,试图将热量传递给空气分子并最终将热量带离设备。然而,由于空气中分子密度的限制,这种技术存在热量传递能力的上限。液体的分子密度远高于空气,因此能够吸收更多热量。

该过程有两个关键要素:如何高效地将热量从芯片转移出去,以及如何保持液体温度使其持续从高温材料中吸收热量(热量总是从高温材料流向低温材料)。直触芯片的方案效率极高,由于与芯片直接接触,能显著降低周围空气温度的上升幅度。闭环系统则更加环保,因为它循环使用无毒冷却液,而非持续从周围环境抽取液体。

2024年底,为应对最新一代AI设备不断增长的功率密度和散热需求,CoreWeave决定在可行范围内大力投资液冷技术。

早期采用直触芯片液冷技术是CoreWeave成为行业领导者的重要原因,这使我们能够为最新一代AI设备和大规模集群提供生产级规模的解决方案。CoreWeave的决策和行动直接支持了客户的大胆愿景,包括十大基础模型提供商中的九家,以及电商、科研、媒体娱乐和企业生产力组织。

图1:CoreWeave数据中心的直触芯片液冷技术

每个GPU都至关重要

通用云架构的范式是通过负载均衡将事务分布在多个冗余服务上,这种架构下单个服务器性能下降或故障相比AI工作负载中类似问题的影响要小得多。

AI工作负载则需要优化性能。为了最大化AI服务器的价值和使用寿命,必须减少硅疲劳现象。其次,当单个工作负载在超过100、1000、10000或100000块GPU上运行时,性能可能受到表现不佳的GPU影响。CoreWeave采用多种硬件和软件方法来保障可靠性、恢复能力和性能表现。液体冷却是这一综合方案的重要组成部分,通过减少由硅疲劳和热损伤部件引发的硬件级错误,从而提升系统稳定性。

液体冷却有两个关键方面:与AI设备的接口方式,以及液体本身的冷却方式。

直连芯片:AI设备接口

新一代AI芯片采用直接固定在芯片封装上的散热板。这些散热板通过循环液体将热量从芯片传导出去。通过这种热传导方式,CoreWeave能够构建出比以往冷却方案更节能的基础设施。

图2:液体冷却的NVIDIA Blackwell计算托盘

闭环系统:持续液体循环

以往的液体冷却方案需要持续从周围环境抽水。在闭环液体冷却系统中,冷却液安装后会持续通过冷却设备(包括冷水机组和干式冷却器)循环使用。冷却液损耗极小,只需每隔数年补充一次。除了这些定期补充外,系统无需额外用水即可正常运行。

图3:计算单元的液体冷却方案

通过AI代理实现AI冷却

我们不仅使用AI帮助客户,还利用AI管理客户依赖的硬件。CoreWeave采用主动AI代理,将液体冷却从对环境的被动负担转变为战略性、可持续的性能优势。

大规模热管理

通过实时监控系统,CoreWeave的AI代理能够有效管理热负荷,在最小化干扰的同时实现GPU性能峰值。

更可持续的技术,更强大的社区

从数据中心选址到投资尖端冷却技术,CoreWeave与当地社区紧密合作,提升可持续性并创造经济价值。我们不仅是社区的运营者,更是社区的成员。闭环液体冷却系统及其他AI数据中心特性均体现了这一承诺。

‍ 可持续性优势:通过将液体置于持续循环系统中,我们消除了持续从当地水源取水的需求。这既保护了本地资源,又为从敏感部件转移热量提供了更高效的方式。许多CoreWeave数据中心均采用闭环液体冷却系统。

| 特性 | 对性能的影响 | 社区效益 | |------|--------------|----------| | 直连芯片 | 更高密度且无性能降频 | 节能效率 | | 闭环系统 | 可靠的热稳定性 | 循环用水 | | AI代理 | 主动热管理 | 能耗效率 | | CoreWeave任务控制 | 实时集群优化 | 减少运营足迹 |

冷却AI:快速部署,高性能

CoreWeave 始终是首批实现新一代 AI 系统生产规模可用性和部署的公司。这一成就的重要推动力在于早期对液冷技术的认知和采用。这一成果源于供应链合作伙伴关系,以及 CoreWeave 工程团队专注于满足每一代新 AI 系统及所服务社区的独特需求。

大规模实施液冷技术已迅速成为决定企业扩容速度、容量运行可靠性、持续满负荷运行能力以及设备使用寿命和可靠性的关键架构支柱。

重新构想的数据中心

下一代 AI 需要的不仅是芯片,更需要对数据中心基础架构进行彻底重构。CoreWeave 设计的设施使高密度 AI 成为颠覆性的现实,确保我们的平台在规模扩展时依然实用、可持续且性能强大。

了解更多关于 CoreWeave AI 数据中心的信息

参加 Chen Goldberg 主讲的《面向真实 AI 工作负载的真正云基础设施》网络研讨会。

了解更多关于 CoreWeave Cloud 平台的信息,了解为什么它是 AI 的必备云平台 TM 。

‍

液冷技术使 CoreWeave 能够在显著减少用水需求的同时,让 AI 硬件保持峰值性能。

分享这篇文章: /think