面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行
AI HOT 精选45 字 (约 1 分钟)
85
面壁智能的LES技术实现35B MoE模型在手机端实时无损运行,iPhone 18 Pro Max实测20 token/s。
入选理由:LES技术通过调度/存储/计算三层架构实现35B MoE模型端侧部署
精选文章#MoE模型#LES调度#移动端AI#面壁智能中文
概念
也叫:Mixture of Experts
通过专家网络实现模型扩展的架构
最近变化
2026-10-20 · LES技术通过调度/存储/计算三层架构实现35B MoE模型端侧部署
MoE模型 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
已收录 3 篇与「MoE模型」相关的 AI 资讯和分析。
面壁智能的LES技术实现35B MoE模型在手机端实时无损运行,iPhone 18 Pro Max实测20 token/s。
入选理由:LES技术通过调度/存储/计算三层架构实现35B MoE模型端侧部署
在无GPU的13年老旧Xeon服务器上,通过优化实现Gemma 4 26B模型每秒5个token的推理速度。
入选理由:使用ik_llama.cpp和25个特定编译标志可在老旧Xeon上运行Gemma 4模型
清华与腾讯混元团队在MLSys 2026 MoE模型推理优化竞赛中夺冠,展示了高效推理优化技术。
入选理由:清华与腾讯混元团队获MLSys 2026 MoE推理优化竞赛冠军
与「MoE模型」经常一起出现的 AI 术语。
💡 想追踪「MoE模型」的长期趋势?去 实体雷达 · MoE模型 查看详细分析和跨材料问答。