Fireship视频
This $12 billion startup finally shipped something...
8.5内容质量
可直接观看的视频资源打开原视频
TL;DR · AI 摘要
Thinking Machines发布Inkling模型,采用9700亿参数混合专家架构,仅使用410亿参数处理每个token,预训练数据达45万亿token。
核心要点
- Inkling模型使用9700亿参数但单token仅激活410亿参数,降低计算成本。
- 预训练数据量达45万亿token,覆盖文本、图像和音频。
- 采用比Meta更友好的开源许可证,提升开发者使用意愿。
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- Inkling模型发布
- 技术特性
- 混合专家架构
- 9700亿参数总量
- 单token激活410亿参数
- 训练数据
- 45万亿token
- 多模态支持
- 开源策略
- 友好许可证
- 对比Meta协议
金句 / Highlights
值得收藏与分享的关键句。
Inkling模型通过混合专家架构实现9700亿参数中仅激活410亿参数处理每个token。
预训练数据量达到45万亿token,覆盖文本、图像和音频多模态数据。
相比Meta的严格许可证,Inkling采用更友好的开源协议提升开发者参与度。
#AI#模型#开源#Thinking Machines#混合专家架构