T
traeai
登录
返回首页
Fireship视频

This $12 billion startup finally shipped something...

8.5内容质量
可直接观看的视频资源打开原视频

TL;DR · AI 摘要

Thinking Machines发布Inkling模型,采用9700亿参数混合专家架构,仅使用410亿参数处理每个token,预训练数据达45万亿token。

核心要点

  • Inkling模型使用9700亿参数但单token仅激活410亿参数,降低计算成本。
  • 预训练数据量达45万亿token,覆盖文本、图像和音频。
  • 采用比Meta更友好的开源许可证,提升开发者使用意愿。

结构提纲

按章节快速跳转。

  1. Mira Murati离职OpenAI后创立Thinking Machines并获得A16Z投资。

  2. Inkling采用混合专家架构,9700亿参数中单token仅使用410亿参数。

  3. 模型预训练使用45万亿token数据,涵盖文本、图像和音频。

  4. 支持100万token上下文窗口,优于其他开源模型。

  5. 采用比Meta更开放的许可证,降低使用门槛。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • Inkling模型发布
    • 技术特性
      • 混合专家架构
      • 9700亿参数总量
      • 单token激活410亿参数
    • 训练数据
      • 45万亿token
      • 多模态支持
    • 开源策略
      • 友好许可证
      • 对比Meta协议

金句 / Highlights

值得收藏与分享的关键句。

#AI#模型#开源#Thinking Machines#混合专家架构

AI 可能会生成不准确的信息,请核实重要内容