T
traeai
登录

公司

PrismML

发布 Bonsai 27B 模型的公司

已跟踪 3 条高相关材料

TraeAI 观察

相关材料

已收录 3 条与 PrismML 相关的内容,按评分排序。

1-Bit Bonsai Image 4B Image Generation for Local Devices

1-Bit Bonsai Image 4B:面向本地设备的图像生成模型

Hacker News Best1412 字 (约 6 分钟)
92

Bonsai Image 4B 是首个可在 iPhone 上本地运行的 4B 参数图像生成模型,通过 1-bit 和三值量化技术将内存占用降低 6-8 倍,支持在手机端生成 512x512 图像仅需 9.4 秒。

入选理由:1-bit Bonsai Image 4B 将扩散 Transformer 内存从 7.75GB 压缩至 0.93GB,压缩比达 8.3x,适合内存受限设备。

精选文章#图像生成#模型压缩#本地部署#量化#Apple Silicon英文
将 600 亿参数大模型装进手机的瓶颈,终于被中国 AI 公司突破了

中国AI公司突破三值量化技术,使600亿参数模型可在手机运行,节省6倍显存且性能损失极小。

入选理由:三值量化可节省6倍显存,保留97%模型能力,支持在8GB内存手机运行600亿参数模型。

精选文章#AI模型#三值量化#昇腾芯片#端侧AI#模型压缩中文
Hacker News Best 图标

Bonsai 27B: A 27B-Class model that runs on a phone

Hacker News Best1529 字 (约 7 分钟)
85

Bonsai 27B 是首个可在手机端运行的 27B 参数模型,通过三元和 1-bit 权重压缩技术实现 5.9GB/3.9GB 超小体积,保留 95%/90% 原始性能。

入选理由:三元 Bonsai 27B 在 5.9GB 体积下保留 95% 原始模型性能,支持完整推理与工具调用

精选文章#AI模型#手机端AI#PrismML#Bonsai 27B英文

跨材料问答 · PrismML

回答基于:PrismML 相关 3 条材料
    0 / 500

    AI 可能会生成不准确的信息,请核实重要内容