将 600 亿参数大模型装进手机的瓶颈,终于被中国 AI 公司突破了
爱范儿2653 字 (约 11 分钟)
92
中国AI公司突破三值量化技术,使600亿参数模型可在手机运行,节省6倍显存且性能损失极小。
入选理由:三值量化可节省6倍显存,保留97%模型能力,支持在8GB内存手机运行600亿参数模型。
精选文章#AI模型#三值量化#昇腾芯片#端侧AI#模型压缩中文
模型
开源语言模型
已跟踪 2 条高相关材料
最近变化
2026-09-09 · Meshy是强化学习训练框架,GitHub地址:github.com/OpenBMB/Meshy
为什么值得关注
MiniCPM 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
已收录 2 条与 MiniCPM 相关的内容,按评分排序。
中国AI公司突破三值量化技术,使600亿参数模型可在手机运行,节省6倍显存且性能损失极小。
入选理由:三值量化可节省6倍显存,保留97%模型能力,支持在8GB内存手机运行600亿参数模型。
推文分享了多个开源项目链接,强调小型模型性能提升趋势。
入选理由:Meshy是强化学习训练框架,GitHub地址:github.com/OpenBMB/Meshy