cohere(@cohere)
Day zero MLX support from @Prince_Canuma https://t.co/QF0MP5Jy05
6.0Score
TL;DR · AI 摘要
Cohere宣布对North Mini Code 1.0模型提供MLX支持，该模型参数量为30B，运行速度达66 tok/s。
核心要点
- North Mini Code 1.0是一个30B参数的MoE模型，拥有3B活跃参数。
- 该模型在BF16模式下运行速度达到约66 tok/s。
- Cohere与团队合作，实现了对MLX的day-0支持。
结构提纲
按章节快速跳转。
Cohere宣布对North Mini Code 1.0模型提供MLX支持。
North Mini Code 1.0是一个30B参数的MoE模型，拥有3B活跃参数。
- ›模型性能
该模型在BF16模式下运行速度达到约66 tok/s。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- Cohere与North Mini Code 1.0模型
- MLX支持
- Day-0支持
- North Mini Code 1.0模型
- 30B参数
- 3B活跃参数
- 66 tok/s运行速度
金句 / Highlights
值得收藏与分享的关键句。
North Mini Code 1.0 is a 30B param MoE model with 3B active.
It runs at ~66 tok/s in BF16, truly impressive speeds.
We provide day-0 support on MLX thanks to our close collaboration with the team.
#Cohere#MLX#模型#AI
打开原文Cohere 在 X 上的推文： "Day zero MLX support from @Prince_Canuma https://t.co/QF0MP5Jy05" / X
Cohere
@cohere
回复
来自
@Prince_Canuma
Prince Canuma
@Prince_Canuma
6月9日
祝贺
团队发布了 North Mini Code 1.0 🔥 我们由于与
团队的紧密合作，提供了 MLX 的 day-0 支持。North Mini Code 1.0 是一个 30B 参数的 MoE 模型，有 3B 活动参数。它在 BF16 中运行速度约为 66 tok/s，速度令人印象深刻。
显示更多
00:00
6月11日，下午9:29
7.8K
浏览量
2
4
3
43
5
阅读 2 条回复