PyTorch Blog

Cambricon Joins the PyTorch Foundation as a Platinum Member

8.5内容质量
Cambricon Joins the PyTorch Foundation as a Platinum Member

TL;DR · AI 摘要

Cambricon成为PyTorch基金会铂金会员,致力于推动AI芯片与PyTorch生态的深度整合。

核心要点

  • Cambricon在PyTorch中贡献了torch.compile、Eager Operators等核心模块。
  • 与vLLM社区合作实现DeepSeek-V4和GLM-5模型的Day 0支持。
  • 未来将加强PyTorch的编译基础设施和跨设备支持

结构提纲

按章节快速跳转。

  1. 宣布Cambricon成为PyTorch基金会铂金会员。

  2. Cambricon成立于2016年,专注AI芯片研发十年。

  3. 在PyTorch中贡献了编译器、分布式计算等核心模块。

  4. vLLM社区实现主流大模型的即日支持。

  5. 将加强PyTorch的跨设备支持和编译基础设施。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • Cambricon与PyTorch合作
    • 技术贡献
      • torch.compile
      • Eager Operators
      • Distributed Computing
    • 合作案例
      • vLLM社区支持
      • DeepSeek-V4
      • GLM-5
    • 未来方向
      • 编译基础设施
      • 跨设备支持
      • 开源生态

金句 / Highlights

值得收藏与分享的关键句。

#PyTorch#AI芯片#开源生态#Cambricon#深度学习
打开原文

Cambricon 加入 PyTorch 基金会成为铂金会员 – PyTorch

由 Linux 基金会支持的 PyTorch 基金会今日宣布,Cambricon 已作为铂金会员加入这一开源 AI 社区。

成立于 2016 年的 Cambricon 是 AI 芯片领域的早期先驱,专注于 AI 芯片产品和软件的研发。经过十年的持续迭代,Cambricon 已构建出一套成熟、高性能且开发者友好、高度可扩展的软硬件产品组合。

凭借前沿的芯片技术和完善的底层软件生态系统,Cambricon 能够实现大规模语言模型的高效训练和推理。此外,其技术已帮助各行业将 AI 计算转化为商业现实。其产品在对话式 AI、智能体 AI、搜索、广告推荐、音视频生成等核心 AI 应用场景中实现了广泛商业化落地,获得业界高度认可。

“我们认为,只有通过紧密的软硬件协同优化和繁荣的开源生态,才能充分释放 AI 计算的潜力,”Cambricon 软件工程副总裁龚元杰表示,“对 Cambricon 来说,PyTorch 不仅是一个框架,更是我们软件生态的核心。对开发者而言,统一的框架接口意味着更低的迁移成本、一致的工具链和更优的开发体验。对 PyTorch 来说,更通用的设备抽象意味着更少的下游分支和更易维护。因此,我们的目标不仅是将 Cambricon 产品与 PyTorch 集成,更希望与 PyTorch 社区紧密合作,帮助 PyTorch 扩展对多样化后端的支持,增强可扩展性,实现统一的设备支持能力。通过社区的共同努力,我们共同的目标是帮助 PyTorch 在更广泛的硬件平台上提供原生的开箱即用开发体验。这正是我们加入 PyTorch 基金会的主要原因。我们希望通过持续贡献,将多年来在大规模部署方面的经验投入全球开发者社区,助力构建更加开放和多元的 AI 基础设施。”

Cambricon 坚持“优先上游”的原则,作为长期 PyTorch 贡献者持续为开源软件生态做出贡献。近年来,Cambricon 在 PyTorch 的多个核心领域均有贡献,包括 torch.compile、Eager Operators、Device Runtime、分布式计算、AMP、Dataloader 和 Profiler。

同时,Cambricon 与 vLLM 社区紧密合作,实现了对 DeepSeek-V4 和 GLM-5 等主流开源大语言模型的 Day 0 支持。

展望未来,Cambricon 将加大对开源生态的投资,深化与 PyTorch 基金会在编译基础设施增强、CI/CD 流水线优化、PyTorch 领域专用库设备无关支持等领域的合作。这体现了 Cambricon 对参与 PyTorch 生态系统更持续和系统的承诺。Cambricon 正从长期 PyTorch 贡献者向构建 AI 基础设施的全球合作伙伴演进,与 PyTorch 基金会及全球产业伙伴携手,共同培育更加开放和多元的 AI 生态。

“任何AI加速器若要在规模上取得成功,就必须贯穿AI生命周期,从使用PyTorch构建和优化模型,到通过vLLM高效部署模型,”PyTorch基金会执行董事Mark Collier表示。“Cambricon对PyTorch持续的上游贡献,以及其在Cambricon硬件上实现vLLM的工作,体现了推动整个生态系统向前发展的开源承诺。欢迎Cambricon加入PyTorch基金会,这加强了我们共同的使命,即在多样化硬件上保持AI基础设施的开放性、可移植性和竞争力。”

作为铂金会员,Cambricon获得一个PyTorch基金会治理委员会席位。该委员会通过我们的章程、使命和愿景声明制定政策,描述基金会倡议的总体范围、技术愿景和方向。

我们很高兴欢迎Cambricon人工智能框架与基础设施高级总监王金加入我们的董事会。王金领导Cambricon的人工智能框架和软件栈团队,其团队专注于提供高效的推理和大规模模型训练的软件支持。团队的工作涵盖广泛的应用领域,包括大型语言模型、搜索、广告和推荐系统、强化学习,服务于互联网和金融服务等行业的客户。

在王金的领导下,该团队一直是开源项目的长期贡献者,使Cambricon的产品能够与主流AI框架集成,并针对不同工作负载进行优化。

我们也很高兴欢迎Cambricon的PyTorch项目负责人朱静加入PyTorch基金会技术咨询委员会(TAC)。朱静担任Cambricon PyTorch团队的首席维护者,专注于将Cambricon的产品与PyTorch生态系统集成。他基于PyTorch的后端集成机制(PrivateUse1)开发Torch-MLU扩展,涵盖算子支持、Inductor集成、基于CNCL(Cambricon通信库)的分布式训练、混合精度和图模式加速,以及全面的性能分析和优化工具链。他的工作使用户能够在Cambricon产品上使用PyTorch时获得原生的PyTorch体验。

欲了解您的组织如何加入PyTorch基金会,请访问我们的网站。

关于PyTorch基金会

PyTorch基金会是开发者用于训练、优化、部署、编排和运行模型的开源智能层的中立家园,适用于任何芯片、任何云环境中的任何代理。作为由Linux基金会托管的社区驱动中心,PyTorch基金会支持核心PyTorch框架,以及包括vLLM、DeepSpeed、Ray、Helion和Safetensors在内的不断增长的创新项目组合。通过开放治理、战略支持和全球贡献者社区,PyTorch基金会赋能开发者、研究人员和企业规模化构建和部署AI。了解更多请访问https://pytorch.org/foundation.

/post-content

/inner-wrap