DeepSeek API

前伯克利博士、现 xAI SGLang 负责人，用 23 分钟讲清楚他们如何在 10 万张 GPU 上部署 Grok 拆分 Prefill 和 Decode → 将 MoE 专家分片到不同 GPU ...

AI Will(@FinanceYF5) · 8.5 分

xAI团队通过拆分Prefill和Decode、MoE专家分片及通信计算重叠，实现Grok在10万张GPU上的高效部署。