面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行
TL;DR · AI 摘要
面壁智能的LES技术实现35B MoE模型在手机端实时无损运行，iPhone 18 Pro Max实测20 token/s。
核心要点
- LES技术通过调度/存储/计算三层架构实现35B MoE模型端侧部署
- iPhone 18 Pro Max实测性能达20 token/s，验证技术可行性
- 消融数据表明该方法可迁移到其他MoE模型的端侧部署
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- LES技术实现移动端MoE模型部署
- 核心架构
- 调度层设计
- 存储优化
- 计算层实现
- 实测数据
- iPhone 18 Pro Max
- 20 token/s
- 应用迁移
- 其他MoE模型
- 端侧部署
金句 / Highlights
值得收藏与分享的关键句。
LES技术通过三层架构设计，实现35B MoE模型在手机端的实时无损运行。
iPhone 18 Pro Max实测性能达20 token/s，验证技术可行性。
消融数据表明该方法可迁移到其他MoE模型的端侧部署。
é¢å£æºè½è§£æåç»ä¸å®¶è°åº¦ LES å¦ä½è®© 35B MoE å¨ææºç«¯ä¾§å®æ¶æ æè¿è¡ · AIHOT
å ¬ä¼å·ï¼é¢å£æºè½
·
MiniCPM-V å¢é
2026-10-20 14:22
4 å°æ¶å
ç²¾é
AI è¯å
68
é¢å£æºè½è§£æåç»ä¸å®¶è°åº¦ LES å¦ä½è®© 35B MoE å¨ææºç«¯ä¾§å®æ¶æ æè¿è¡
é¢å£æºè½åç»ä¸å®¶è°åº¦ï¼LESï¼ï¼è®© 35B MoE å¨ææºä¸å®æ¶æ æè¿è¡çæ¨çææ¯
AI 导读
é¢å£æºè½ MiniCPM-V å¢éä»ç»æ¯æ MiniCPM-V 4.7 端侧è¿è¡çåç»ä¸å®¶è°åº¦ï¼LESï¼ææ¯ï¼ç§°é¦æ¬¡å®ç° 35B-A3B è§æ¨¡ MoE å¨ç«¯ä¾§å®æ¶æ æè¿è¡ï¼iPhone 18 Pro Max å®æµè§£ç è¶ 20 token/sã
æ¨èçç±
åææè§£äº LES å¨è°åº¦ãåå¨ã计ç®ä¸å±çå ·ä½è®¾è®¡ï¼å¹¶ç»åºæ¶èæ°æ®ï¼æ¹æ³å¯è¿ç§»å°å ¶ä» MoE 模åç端侧é¨ç½²ã
æ¥æºï¼ å ¬ä¼å·ï¼é¢å£æºè½ · mp.weixin.qq.com
æ¨çè½å
端侧 AI
å¼æºçæ
é¨ç½²å·¥ç¨
æç¨å®è·µ
#
æç¨/å®è·µ
端侧
æ¨ç
é¨ç½²/å·¥ç¨