[AINews] Thinky's Inkling: 975B-A41B multimodal, new best American Apache 2.0 open model (with Inkling-Small, 276B-A12B)

[AINews] Thinky的Inkling模型：975B-A41B多模态，全新美国Apache 2.0开源模型（含Inkling-Small，276B-A12B）

AINews：工作日精选

Thinky首次完整LLM发布令人惊艳，更附赠开放权重！

2026年7月16日

Thinky似乎每隔几个月才会浮出水面一次；最近一次是交互模型的发布——但每次亮相都令人印象深刻，展现出独特的品味和深度。今天他们推出了Inkling——这不是一个SOTA模型，但作为美国开源模型的基线家族，这是一个非常扎实的新系列：

• 我们的模型名为Inkling，是一个专家混合结构的Transformer，总计9750亿个参数，其中410亿个为激活参数。

• 支持高达100万token的上下文窗口。

• 在45万亿个token的文本、图像、音频和视频数据上进行了预训练。

• 它是不同规模模型家族中的首个成员：我们同时发布了Inkling-Small的预览版，这是一个轻量级模型，拥有120亿个激活参数，采用相似的训练方案，实现了更低的成本和延迟下的强劲性能。

• Inkling原生支持文本、图像和音频的推理，通过高效且可控的思考过程实现成本与性能的平衡。

Huggingface的分析涵盖了一些有趣的技术亮点：

2026年7月14日至15日的AI新闻。我们检查了12个子版块、544个推特账号，未发现更多Discord信息。AINews网站可搜索所有过往内容。提醒一下，AINews现已成为Latent Space的一部分。您可以选择是否接收电子邮件通知！

AI推特回顾

发生了什么

Thinking Machines Lab推出了其首个完整发布的开源权重基础模型系列Inkling，定位为可定制的多模态基础模型，而非性能极限的旗舰模型。

• Thinking Machines宣布Inkling为一个开源权重模型，"能够高效地跨文本、图像和音频模态进行推理"，完整权重已开放，Tinker平台和Playground @thinkymachines 提供即时支持。

• Mira Murati将Inkling描述为公司的"首个模型"，"从零开始训练"，具有开源权重和Tinker平台 @miramurati 的当日微调能力。

• Soumith Chintala将其定义为Thinking Machines的"首个通用模型"，强调开源权重、9750亿参数、原生多模态性，以及在Tinker、Hugging Face和合作伙伴 @soumithchintala 上的可用性。

• John Schulman补充了时间线背景：预训练始于去年冬季，从1月中旬起，一个小团队开始构建编码、推理和智能体训练 @johnschulman2 。

• Lilian Weng将Inkling描述为一个旨在"在广泛能力类别中实现稳健性能"的基础模型，适用于实际应用和定制化 @lilianweng 。

• TML团队反复强调，这是一个首发版本，是未来迭代的基础，而非最终的前沿突破 @soumithchintala , @cHHillee , @keirp1 。

• 发布时获得了异常广泛的支持，包括vLLM、SGLang、Modal、Baseten、Databricks、Hugging Face以及量化/社区工具 @vllm_project , @lmsysorg , @modal , @baseten , @Yuchenj_UW , @huggingface , @danielhanchen 。

• 独立评论员立即将其标记为迄今为止最强的美国开源权重发布，尽管在某些基准测试中仍落后于顶尖的中国开源模型和最佳闭源模型 @natolambert , @ArtificialAnlys , @scaling01 。

核心事实与规格

模型规模、模态、授权、上下文

• 多数帖子中报告 Inkling 的总参数量为 975B / 活跃参数 41B @soumithchintala , @vllm_project , @ArtificialAnlys , @kimmonismus 。一条推文提到 974B @Yuchenj_UW ，另一条提到 952B @multimodalart ；推文集合中压倒性的共识是约 975B。

• 这是一个每 token 使用 41B 活跃参数的 Mixture-of-Experts 模型 @VictoriaLinML 。

• 根据多个反应和摘要，它采用 Apache 2.0 许可证 @natolambert , @Yuchenj_UW , @multimodalart 。

• 它支持文本、图像和音频输入，输出为文本 @soumithchintala , @TheRundownAI , @ArtificialAnlys 。

• 开源权重检查点支持最多 1M 上下文 @vllm_project , @lmsysorg , @ArtificialAnlys 。

• Tinker/API 上下文被描述为 256K ，针对 64K 和 256K 上下文的定价存在差异 @ArtificialAnlys 。

训练和发布细节

• TML 表示 Inkling 是从零开始训练的 @miramurati , @LiorOnAI 。

• 社区读者从发布材料中提取了 45T 训练 token @eliebakouch , @ArtificialAnlys ，而有一篇帖子提到 48T @mervenoyann 。该数据集中更常被重复提及的数字是 45T 。

• Inkling 包含可控的推理努力/数值努力级别 @LiorOnAI , @TheRundownAI , @danielhanchen 。

• Tinker 客户强调简洁推理和强大的工具调用能力，而非单纯追求最高基准表现 @tinkerapi , @MichaelElabd 。

反应中浮现的架构细节

多个具备技术素养的反应从发布内容中提取了架构选择：

• 混合/滑动窗口注意力机制，局部与全局层比例为 5:1 ，窗口大小 512 @eliebakouch , @ariG23498 。

• 使用相对位置编码/相对注意力偏差而非 RoPE ；多位发帖者称这是最创新的大规模选择之一 @stochasticchasm , @eliebakouch , @rasbt , @ arohan , @ChangJonathanC 。

• 在注意力/FFN 流程周围添加了短卷积层；评论者指出这是短卷积的异常大规模应用 @eliebakouch , @stochasticchasm , @rasbt , @SonglinYang4 。

• 共享专家汇流的 MoE ，包含 2 个共享专家，被指出与多数近期使用单个共享专家的 MoE 不同 @eliebakouch , @ariG23498 。

• 社区对架构的解读中提到 DeepSeek 风格的无辅助损失负载均衡 @eliebakouch 。

• 从描述中推断出 muP 和 Muon/权重衰减变体，并得到优化器专家确认：Aaron Defazio 表示他们使用了他修正的权重衰减方法，“MuonC/AdamC” @aaron_defazio ，同时社区读者也指出 muP @stochasticchasm , @Laz4rz 。

• vLLM 强调了用于推测解码的 8 个 MTP 头 @vllm_project 。

变体

• Inkling-Small 被多次提及为即将发布或单独讨论的较小模型 @LiorOnAI , @teortaxesTex 。

• 社区摘要描述 Inkling-Small 为 276B 总参数 / 12B 活跃参数，并在多项评估中意外地与大模型竞争 @eliebakouch , @nrehiew_ 。

性能和基准

独立基准框架

• Artificial Analysis 表示 Inkling 在智能指数中首秀排名 41 ，使其成为领先的美国开源权重发布模型，领先于 Nemotron 3 Ultra (38) 、 Gemma 4 31B (29) 和 gpt-oss-120b (24) @ArtificialAnlys 。

• Artificial Analysis 表示，Inkling 在每个 Intelligence Index 任务中平均生成 25K 输出 token，相比 GLM-5.2 最大值的 43K、Kimi K2.6 的 38K 和 DeepSeek v4 Pro 最大值的 37K，称其在 token 效率方面表现相对更优 @ArtificialAnlys 。

• Natolambert 称其为“相比 Nemotron Ultra 明显的提升”和“新的最佳美国模型”，但仍认为“在代理基准测试中略逊于 GLM 5.2，在多模态任务中略逊于 Kimi K 2.6” @natolambert 。

• Design Arena 表示，Inkling 在 Agentic Web App Arena 总体排名第 9，Elo 值为 1257，与 Claude Opus 4.6 和 Gemini 3.5 Flash 处于同一水平段，并称其为“针对代理工作负载的最高排名的美国开源权重模型” @DesignArena 。

• Arena 在发布当日将 Inkling 添加至 Agent Arena / Text / Vision / Code Arena @arena 。

具体基准测试数据引用

根据 Artificial Analysis：

• GDPval-AA v2 Elo 值为 1238，高于 Kimi K2.6（1190）和 DeepSeek v4 Flash 最大值（1189） @ArtificialAnlys 。

• τ³-Banking 为 24%，高于 Kimi K2.6（21%）和略高于 DeepSeek v4 Flash 最大值（23%） @ArtificialAnlys 。

定性性能评价

正面评价：

• “推理清晰简洁”，不冗长 @MichaelElabd 。

• 在代理任务中表现出强大的工具调用能力和良好的长期错误恢复能力 @MichaelElabd 。

• 具有“思维质量”/不阿谀奉承的风格 @skirano ，@tinkerapi 。

• Alex Kirillov 指出，Inkling 避免了多数全模态模型常见的“音频输入 = 智能惩罚”现象，但另一位用户要求提供更强的支持证据和基准测试 @ alex_kirillov ，@giffmana ，@ alex_kirillov 。

更多混合/批评观点：

• Scaling01 认为这些基准测试“并不那么出色”，称其“大致相当于 Kimi-K2.6”，落后于所有闭源模型和 GLM-5.2，并推测发布时机可能早于 Kimi-K3 和 DeepSeek-V4-GA @scaling01 。

• Stochasticchasm 表示其“在多模态任务中表现非常强”，但“在终端基准测试等任务中并非特别强” @stochasticchasm 。

• JJitsev 对“唯一未使用蒸馏训练的开源权重模型”的炒作提出质疑，指出 Inkling 实际使用了开源权重的蒸馏，并在 TerminalBench 风格评估中表现逊于 GLM 5.2 @JJitsev 。

• TeortaxesTex 提出不同观点：基准测试表现一般可能实际上意味着更少的取巧/蒸馏污染和更独立的数据流水线 @teortaxesTex 。

推理、系统和发布生态

官方及合作伙伴基础设施信息

• NVIDIA 表示，Inkling 是在 GB300 NVL72 上训练的，且在发布当日（day 0）已通过 Hugging Face 提供 NVFP4 检查点 @NVIDIAAI 。

• vLLM 表示，day-0 支持包括 NVFP4 和 BF16，针对 Blackwell 和 Hopper 优化，在 4× GB200 上使用 MTP 可达到最高 380 tok/s/user @vllm_project 。

• Inferact 详细说明了系统工作：sconv-aware 张量并行分片、低延迟融合集合（bs=1 时速度提升 5 倍）、以及与 TML 的 FA4 剪切偏差内核的直接集成 @inferact 。

• LMSYS/SGLang 表示，Inkling 架构支持已原生实现，包括 ShortConv、相对位置注意力、共享专家下沉 MoE、预填充完整 CUDA 图表、MXFP8 KV 缓存、定制化 Megatron 后端的完整参数和 LoRA RL、路由重放、跨运行时参数同步，以及来自 Modal 的 DFlash 推测解码 @lmsysorg 。

• Modal 表示，Modal 上的 Inkling 使用了自定义的 DFlash 推测器，实现 67% 的吞吐量和交互性提升 @modal 。

• Soumith Chintala 单独强调 Modal 的 DFlash speculator 比 MTP “快得多” @soumithchintala 。

社区优化观察

• Lysandre 报告称将 TML 的因果 Conv1D 替换为 causal-conv1d 实现了 +4% 的 tok/s 提升，将注意力机制替换为 FlashAttention-4 又带来了 +11% 的提升，在无需重新训练的情况下总吞吐量提升了约 15% @LysandreJik 。

• Unsloth 发布了 1-bit GGUF 量化模型，声称体积缩小了 86%（270GB vs 1.9TB），同时保留了 74.2% 的 top-1% 准确率，并支持视觉和音频 @danielhanchen 。

定价与可用性

• Artificial Analysis 列出 Tinker 的定价为：64K 上下文：$1.87 / 1M 输入，$0.374 缓存，$4.68 输出；256K 上下文：$3.74 / 1M 输入，$0.748 缓存，$9.36 输出 @ArtificialAnlys

• 可在 Tinker、Hugging Face 以及包括 Databricks、Baseten、Modal、vLLM/SGLang 堆栈在内的启动合作伙伴处获取 @soumithchintala ，@Yuchenj_UW ，@baseten ，@modal 。

事实与观点

由启动和合作伙伴直接支持的事实声明

• 已发布完整权重 @thinkymachines 。

• 从零开始训练 @miramurati 。

• 总共 975B / 活动 41B MoE，支持多模态文本-图像-音频输入，权重支持 1M 上下文，Tinker/API 支持 256K 上下文 @soumithchintala ，@ArtificialAnlys 。

• Apache 2.0 许可证 @natolambert ，@Yuchenj_UW 。

• 预训练始于去年冬季；代理/编码/推理工作从 1 月中旬开始 @johnschulman2 。

• 主要服务堆栈当日支持，vLLM/Inferact/Modal/NVIDIA 提供具体性能声明 @vllm_project ，@inferact ，@modal ，@NVIDIAAI 。

解释与观点

• “最佳美国开源模型” / “拯救了美国开源前沿”是判断，尽管被多位受尊敬的观察者多次重复 @natolambert ，@karinanguyen ，@saranormous 。

• 关于 Inkling 特别重要因为它未从 OpenAI/Anthropic 蒸馏的声明存在争议。Jxmnop 称其为“唯一没有此类蒸馏的开源权重模型” @jxmnop ，随后部分撤回：“显然他们确实蒸馏了，但只有一点点” @jxmnop 。Andrew Carr 也质疑了纯度框架，指出使用了 Kimi 2.5 进行 SFT 追踪 @andrew_n_carr 。

• 关于 Inkling 在中国模型发布前被“仓促推出”的说法是批评者的推测，而非启动材料中所证明的 @scaling01 。

• 关于相对注意力赋予 TML 由于反向传播困难而具有微调护城河的说法是推测 @typedfemale 。

• 关于 Inkling 避免多模态智能损失的说法令人期待，但推文集中的基准测试尚未完成 @ alex_kirillov 。

不同视角

支持 / 看涨

• 开源权重和宽松许可作为战略胜利：许多人认为 Apache-2.0 发布对美国/西方开源生态系统是重大推动 @latkins ，@saranormous ，@brexton ，@hyperindexed 。

• 定制化优于排行榜追逐：研究人员和开发者称赞明确指出 Inkling 是一个广泛可调的基础模型，而非一个基准最大化点解决方案 @gneubig ，@ben_burtenshaw ，@thealexker 。

• 强大的发布质量：多位用户称赞其透明度、务实语气和全面的技术文档 @lvwerra ，@saranormous ，@rasbt 。

• 架构兴趣：非 RoPE 位置选择和缩放短卷积的使用因证明 TML 愿意进行有意义的架构押注而受到积极关注 @stochasticchasm ，@rasbt ，@ChangJonathanC 。

中立 / 分析

• 强劲但非全面领先：多个分析师认为，Inkling在综合表现上是新的美国开源权重模型领导者，但在某些方面仍落后于GLM/Kimi/DeepSeek或顶级封闭模型 @natolambert , @ArtificialAnlys , @stochasticchasm 。

• 优质基础模型理念：多位分析师解读此次发布为系统/商业策略：推出一个扎实高效的可训练基础模型，通过Tinker及下游RL/微调实现差异化 @ben_burtenshaw , @kimmonismus , @tinkerapi 。

关键/质疑观点

• 整体未达前沿水平：批评者认为其仍明显落后于顶尖中国开源权重模型和最强封闭模型 @scaling01 , @JJitsev 。

• 纯度主张被夸大：部分质疑者指出其"独特纯粹性"或"非蒸馏"的主张存在夸大，相关讨论中既有炒作也有修正 @jxmnop , @jxmnop , @andrew_n_carr , @JJitsev 。

• 中等基准表现引发担忧：部分读者认为其中等基准表现可能表明其只是落后于当前中国开源前沿模型，而非开启新前沿 @scaling01 。

背景：为何重要

• 首个重大TML公开模型：这是Thinking Machines在实验室由前OpenAI负责人和研究人员组建后，经过数月期待后的首个真正外部模型发布。这本身就值得注意 @Hesamation , @TechCrunch 。

• 对中国势头的美国开源回应：许多反应明确将Inkling与GLM、Kimi、DeepSeek和Qwen进行对比。此次发布正值西方开源模型在能力和发布节奏上落后于中国模型的担忧之中 @scaling01 , @teortaxesTex , @sriramk 。

• 开源基础+后训练架构理念：TML的宣传强烈暗示了类似"发布一个可靠的开源基座，再通过定制化/微调/RL基础设施实现差异化"的策略。这与Tinker分布及用户关注可控推理、简洁输出和适应性而非单纯榜单霸权的反应一致 @thinkymachines , @MichaelElabd , @ben_burtenshaw 。

• 推理生态成熟度：此次发布也展示了开源推理栈的发展程度。在发布当天就支持具有新架构组件和多项内核级优化的1T级多模态MoE，这在一年前几乎难以想象 @vllm_project , @inferact , @LysandreJik 。

• 大规模架构实验：相对于RoPE使用相对位置偏置和大规模短卷积的使用是研究人员密切关注的选择，因为如果在扩展和后训练中表现稳健，可能预示未来架构趋势 @stochasticchasm , @rasbt , @ChangJonathanC 。

• 发布风格作为信号：多位评论者称赞此次异常克制的发布语言、明确承认其并非最强整体模型以及详细的技术说明。对于专家受众而言，这比单纯追求榜单极限的发布更具可信度 @eliebakouch , @lvwerra , @thealexker 。

通过7天免费试用继续阅读

订阅Latent.Space以继续阅读本文并获得7天免费访问完整文章归档的权限。

开始试用

已是付费订阅者？

上一篇