T
traeai
登录

人物

Robert Youssef

别名:rryssf

AI技术博主,首次公开Bonsai 27B模型信息

已跟踪 3 条高相关材料

TraeAI 观察

相关材料

已收录 3 条与 Robert Youssef 相关的内容,按评分排序。

even your phone can now run a 27 billion parameter model. fully offline, no API, no bill, in under 4GB.

it is called Bonsai 27B, and it is the first model of its size to fit in your pocket.

here is how they pulled it off, and where it quietly breaks 👇

Bonsai 27B是首个可在手机上运行的270亿参数模型,通过量化与架构优化实现4GB内存部署。

入选理由:采用8位整型量化技术,模型体积压缩至4GB

精选推文#AI模型#移动端#模型压缩#量化技术英文
Robert Youssef(@rryssf) 图标

27B参数模型在手机端运行证明了本地代理的可行性,标志着端侧AI的重大突破。

入选理由:27B参数模型首次实现在手机端完整运行

精选推文#AI#端侧计算#大模型英文
claudedogging the 7hours

claudedogging the 7hours

Robert Youssef(@rryssf)50 字 (约 1 分钟)
50

该推文内容缺失,仅包含标题、作者信息和图片链接,未提供任何技术细节或分析。

入选理由:推文未包含实质性技术内容

精选推文#AI#社交媒体英文

跨材料问答 · Robert Youssef

回答基于:Robert Youssef 相关 3 条材料
    0 / 500

    AI 可能会生成不准确的信息,请核实重要内容