Congrats to @lightseekorg on the impressive TokenSpeed results! 🚀 Great to see Qwen3.8-Flash-Next r...
TL;DR · AI 摘要
Qwen3.8-Flash-Next在NVIDIA GB300 GPU上实现每用户685输出令牌/秒，展示其高效推理能力。
核心要点
- Qwen3.8-Flash-Next在NVIDIA GB300上达到685 output tokens/s per user
- 使用4× NVIDIA GB300与NVFP4进行性能测试
- 社区通过TokenSpeed测试解锁模型推理潜力
结构提纲
按章节快速跳转。
- §性能突破
Qwen3.8-Flash-Next在NVIDIA GB300上实现685 output tokens/s per user的性能指标。
- ·测试环境
使用4× NVIDIA GB300 GPU与NVFP4进行TokenSpeed基准测试。
- ›优化方向
涉及内核优化与服务端架构改进以提升推理效率。
- ·社区贡献
LightSeek Foundation通过公开测试推动Qwen模型性能验证。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- Qwen3.8-Flash-Next性能优化
- 硬件配置
- NVIDIA GB300 ×4
- NVFP4
- 优化方向
- 内核优化
- 服务端架构改进
- 社区贡献
- TokenSpeed测试推动
金句 / Highlights
值得收藏与分享的关键句。
Qwen3.8-Flash-Next在NVIDIA GB300上达到685 output tokens/s per user
使用4× NVIDIA GB300与NVFP4进行性能测试
社区通过TokenSpeed测试解锁模型推理潜力
Qwen on X: "Congrats to @lightseekorg on the impressive TokenSpeed results! 🚀 Great to see Qwen3.8-Flash-Next reaching 685 output tokens/s per user on Nvida GPUs. Excited to see the community unlock more of Qwen’s inference potential!" / X
Qwen
@Alibaba_Qwen
Congrats to
@
lightseekorg
on the impressive TokenSpeed results! 🚀 Great to see Qwen3.8-Flash-Next reaching 685 output tokens/s per user on Nvida GPUs. Excited to see the community unlock more of Qwen’s inference potential!
LightSeek Foundation
@lightseekorg
Oct 14
685 output tokens/s per user on
Alibaba_Qwen
Qwen3.8-Flash-Next. Running TokenSpeed on 4× NVIDIA GB300 with NVFP4. A look at the kernel and serving optimizations behind the results: 👉
lightseek.org/blog/tokenspee…
⭐
github.com/lightseekorg/t…
3:43 AM · Oct 14, 2026
·
77.9K
Views
74
52
964
155