量子位

阿里云:真武芯片超节点已成功适配Qwen3.8,上线百炼提供推理服务

8.5内容质量

TL;DR · AI 摘要

阿里云真武M890超节点成功适配Qwen3.8,实现国内首个超2万亿参数模型推理服务,性能提升达1.5倍。

核心要点

  • 真武M890超节点通过ICN Switch 1.0实现800GB/s高速互联,显存达9TB。
  • Qwen3.8参数规模达2.4万亿,需依赖高速互联GPU集群运行。
  • 全链路优化使Agentic推理场景性能提升1.5倍,推理成本降低。

结构提纲

按章节快速跳转。

  1. 阿里云真武M890超节点成功适配Qwen3.8模型并上线推理服务。

  2. Qwen3.8参数规模达2.4万亿,需高速互联GPU集群支撑运行。

  3. 支持FP32到FP4精度,通过ICN Switch 1.0实现800GB/s互联。

  4. 单实例显存达9TB,可支撑2万亿参数MoE模型专家并行需求。

  5. 算子优化与软硬件协同使推理性能提升1.5倍,成本显著降低。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 真武芯片适配Qwen3.8
    • 技术架构
      • ICN Switch 1.0互联芯片
      • FP32-FP4多精度支持
    • 性能指标
      • 800GB/s互联带宽
      • 9TB显存规模
    • 优化成果
      • 1.5倍推理性能提升
      • 全链路软硬件协同

金句 / Highlights

值得收藏与分享的关键句。

#阿里云#真武芯片#Qwen3.8#AI芯片#推理服务
打开原文

阿里云:真武芯片超节点已成功适配Qwen3.8,上线百炼提供推理服务 – 量子位

扫码关注量子位

<div class="top_search"> <form role="search" method="get" class="search-form" action="https://www.qbitai.com/" id="search"> <label> <input type="search" class="search-field" placeholder="搜索…" value="" name="s"> </label> <button type="submit" class="search-submit"></button> </form> </div>

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

articlead begin

articlead end

阿里云:真武芯片超节点已成功适配Qwen3.8,上线百炼提供推理服务

量子位的朋友们

2026-07-23

14:58:23

来源:

量子位

摘要样式

7月23日消息,阿里真武M890超节点已成功适配Qwen3.8,并上线阿里云百炼平台提供模型推理服务,这是国内首个成功运行超2万亿参数大模型的超节点。

Qwen3.8是阿里最新旗舰模型,参数规模高达2.4万亿,跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的GPU卡,让万亿参数“跑得又稳又快”。然而,普通AI集群因通信带宽的局限,无法满足高吞吐、低延迟、高并发的需求。

真武M890是平头哥新一代训推一体AI芯片,原生支持FP32到FP4等多种数据精度,可应用于高精度训练、低精度和超低精度推理的全场景。真武超节点实例通过ICN Switch 1.0互联芯片,让64张真武M890实现了800GB/s的高速互联,显存规模达到9TB,单实例即可支撑大规模2万亿参数MoE模型的专家并行需求。

此外,阿里还从芯片到云平台层面实现了与Qwen模型的全链路优化,不仅可以丝滑跑通Qwen3.8,还能显著提升推理效率、降低推理成本。实测数据显示,通过算子优化和软硬件架构协同,该超节点实例在Agentic推理场景中最多可实现1.5倍的推理性能提升。

本文由阿里提供,量子位获授权转载,观点归原作者所有。

版权声明

版权所有,未经授权不得以任何形式转载及使用,违者必究。

阿里

作者文章列表

  • 智能体政策新闻相关背景和简要解读 2026-07-23
  • 趋境科技华东区域总部落地钱江世纪城,五年内建成万卡级高品质 AI Token 工厂 2026-07-23
  • 贝壳财经启动“千帆竞发”计划,将征集百位优质创作者共建内容新生态 2026-07-23
  • 科大讯飞发布星火Token Factory,打造企业级AI模型智能路由与治理新底座 2026-07-23

左侧分享

扫码分享至朋友圈

相关阅读 start

相关阅读

#### Need is all you need:AI接手Coding后,程序员最值钱的能力只剩这一项?

说明需求,Qoder就能帮你实现

闻乐

2026-05-15

AI Coding

Qoder

#### 阿里发布全球最强开源模型千问3,通义App第一时间开启体验

包含8款不同尺寸,均为全新的“混合推理模型”

西风

2025-04-29

千问3

#### 在阿里做科研是一种什么样的感受?

达摩院相信只有长跑才能滋养整个科研生态。

白交

2020-09-20

科研

阿里达摩院

#### 实测拿215项SOTA的Qwen3.5-Omni:摄像头一开,AI给我现场讲论文、撸代码

能看能听能唠嗑,还能现场vibe coding

听雨

2026-03-31

AI

Qwen

人工智能

千问

#### 腾讯的电商,在东南亚击败了阿里巴巴

再次对电商发起进攻,这次腾讯有几分胜算?

贾浩楠

2020-08-24

电商

腾讯

#### 清华阿里RealAI联合发布首个AI安全评估平台,模型防御力如何?一测便知

平台能够对AI防御和攻击算法进行自动化、科学的评估

2021-06-04

RealAI

清华

相关阅读 end

热门文章 start

热门文章

#### 妙啊!无人机直连卫星传Token

2026-07-18

#### 看了20万小时「人类干活实录」,机器人悟了

2026-07-19

#### 不同模型厂同一家Agentic Infra,AGI时代的地基终于浮出水面

2026-07-20

#### WAIC 2026收官|范式大会亮点集锦,见证AI 2.0从技术突破走向产业实践

#### 当AI进入最依赖“人”的行业:一家四线城市康复机构利润增长40%

<form role="search" method="get" class="search-form" action="https://www.qbitai.com/"> <label> <span class="screen-reader-text">搜索:</span> <input type="search" class="search-field" placeholder="搜索…" value="" name="s" /> </label> <button type="submit" class="search-submit"><span class="screen-reader-text">搜索</span></button> </form>

热门文章 end

底部版权

  • 关于量子位
  • 加入我们
  • 寻求报道
  • 商务合作

<a href="/?page_id=183"target="_blank"><i class="weixin_icon"></i></a>

追踪人工智能新趋势,报道科技行业新突破

<p>量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1</p>

量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1