Cambricon Joins the PyTorch Foundation as a Platinum Member

TL;DR · AI 摘要
Cambricon成为PyTorch基金会铂金会员,致力于推动AI芯片与PyTorch生态的深度整合。
核心要点
- Cambricon在PyTorch中贡献了torch.compile、Eager Operators等核心模块。
- 与vLLM社区合作实现DeepSeek-V4和GLM-5模型的Day 0支持。
- 未来将加强PyTorch的编译基础设施和跨设备支持
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- Cambricon与PyTorch合作
- 技术贡献
- torch.compile
- Eager Operators
- Distributed Computing
- 合作案例
- vLLM社区支持
- DeepSeek-V4
- GLM-5
- 未来方向
- 编译基础设施
- 跨设备支持
- 开源生态
金句 / Highlights
值得收藏与分享的关键句。
Cambricon通过十年迭代,构建了开发者友好且高度可扩展的硬件-软件产品组合。
PyTorch对Cambricon而言不仅是框架,更是软件生态的核心。
Cambricon的贡献覆盖PyTorch的编译、分布式计算、自动混合精度等关键领域。
Cambricon 加入 PyTorch 基金会成为铂金会员 – PyTorch
由 Linux 基金会支持的 PyTorch 基金会今日宣布,Cambricon 已作为铂金会员加入这一开源 AI 社区。
成立于 2016 年的 Cambricon 是 AI 芯片领域的早期先驱,专注于 AI 芯片产品和软件的研发。经过十年的持续迭代,Cambricon 已构建出一套成熟、高性能且开发者友好、高度可扩展的软硬件产品组合。
凭借前沿的芯片技术和完善的底层软件生态系统,Cambricon 能够实现大规模语言模型的高效训练和推理。此外,其技术已帮助各行业将 AI 计算转化为商业现实。其产品在对话式 AI、智能体 AI、搜索、广告推荐、音视频生成等核心 AI 应用场景中实现了广泛商业化落地,获得业界高度认可。
“我们认为,只有通过紧密的软硬件协同优化和繁荣的开源生态,才能充分释放 AI 计算的潜力,”Cambricon 软件工程副总裁龚元杰表示,“对 Cambricon 来说,PyTorch 不仅是一个框架,更是我们软件生态的核心。对开发者而言,统一的框架接口意味着更低的迁移成本、一致的工具链和更优的开发体验。对 PyTorch 来说,更通用的设备抽象意味着更少的下游分支和更易维护。因此,我们的目标不仅是将 Cambricon 产品与 PyTorch 集成,更希望与 PyTorch 社区紧密合作,帮助 PyTorch 扩展对多样化后端的支持,增强可扩展性,实现统一的设备支持能力。通过社区的共同努力,我们共同的目标是帮助 PyTorch 在更广泛的硬件平台上提供原生的开箱即用开发体验。这正是我们加入 PyTorch 基金会的主要原因。我们希望通过持续贡献,将多年来在大规模部署方面的经验投入全球开发者社区,助力构建更加开放和多元的 AI 基础设施。”
Cambricon 坚持“优先上游”的原则,作为长期 PyTorch 贡献者持续为开源软件生态做出贡献。近年来,Cambricon 在 PyTorch 的多个核心领域均有贡献,包括 torch.compile、Eager Operators、Device Runtime、分布式计算、AMP、Dataloader 和 Profiler。
同时,Cambricon 与 vLLM 社区紧密合作,实现了对 DeepSeek-V4 和 GLM-5 等主流开源大语言模型的 Day 0 支持。
展望未来,Cambricon 将加大对开源生态的投资,深化与 PyTorch 基金会在编译基础设施增强、CI/CD 流水线优化、PyTorch 领域专用库设备无关支持等领域的合作。这体现了 Cambricon 对参与 PyTorch 生态系统更持续和系统的承诺。Cambricon 正从长期 PyTorch 贡献者向构建 AI 基础设施的全球合作伙伴演进,与 PyTorch 基金会及全球产业伙伴携手,共同培育更加开放和多元的 AI 生态。
“任何AI加速器若要在规模上取得成功,就必须贯穿AI生命周期,从使用PyTorch构建和优化模型,到通过vLLM高效部署模型,”PyTorch基金会执行董事Mark Collier表示。“Cambricon对PyTorch持续的上游贡献,以及其在Cambricon硬件上实现vLLM的工作,体现了推动整个生态系统向前发展的开源承诺。欢迎Cambricon加入PyTorch基金会,这加强了我们共同的使命,即在多样化硬件上保持AI基础设施的开放性、可移植性和竞争力。”
作为铂金会员,Cambricon获得一个PyTorch基金会治理委员会席位。该委员会通过我们的章程、使命和愿景声明制定政策,描述基金会倡议的总体范围、技术愿景和方向。
我们很高兴欢迎Cambricon人工智能框架与基础设施高级总监王金加入我们的董事会。王金领导Cambricon的人工智能框架和软件栈团队,其团队专注于提供高效的推理和大规模模型训练的软件支持。团队的工作涵盖广泛的应用领域,包括大型语言模型、搜索、广告和推荐系统、强化学习,服务于互联网和金融服务等行业的客户。
在王金的领导下,该团队一直是开源项目的长期贡献者,使Cambricon的产品能够与主流AI框架集成,并针对不同工作负载进行优化。
我们也很高兴欢迎Cambricon的PyTorch项目负责人朱静加入PyTorch基金会技术咨询委员会(TAC)。朱静担任Cambricon PyTorch团队的首席维护者,专注于将Cambricon的产品与PyTorch生态系统集成。他基于PyTorch的后端集成机制(PrivateUse1)开发Torch-MLU扩展,涵盖算子支持、Inductor集成、基于CNCL(Cambricon通信库)的分布式训练、混合精度和图模式加速,以及全面的性能分析和优化工具链。他的工作使用户能够在Cambricon产品上使用PyTorch时获得原生的PyTorch体验。
欲了解您的组织如何加入PyTorch基金会,请访问我们的网站。
关于PyTorch基金会
PyTorch基金会是开发者用于训练、优化、部署、编排和运行模型的开源智能层的中立家园,适用于任何芯片、任何云环境中的任何代理。作为由Linux基金会托管的社区驱动中心,PyTorch基金会支持核心PyTorch框架,以及包括vLLM、DeepSpeed、Ray、Helion和Safetensors在内的不断增长的创新项目组合。通过开放治理、战略支持和全球贡献者社区,PyTorch基金会赋能开发者、研究人员和企业规模化构建和部署AI。了解更多请访问https://pytorch.org/foundation.
/post-content
/inner-wrap