Stratechery

Who’s Afraid of Chinese Models?

8.5内容质量

TL;DR · AI 摘要

中国AI模型崛起引发行业成本结构变革,开放权重模型虽降低研发成本但显著增加运营成本。

核心要点

  • 开放权重模型R&D成本固定,与收入无关但影响利润率
  • AI行业COGS与收入呈1000倍直接关联,收入越高运营成本越高
  • Kimi K3等中国模型性能接近前沿,推动边际成本回归行业核心

结构提纲

按章节快速跳转。

  1. §边际成本的回归

    AI行业重新审视零边际成本假设,中国模型推动成本结构变化

  2. 开放模型降低研发成本但增加运营成本,二者呈非线性关系

  3. Kimi K3等模型性能突破引发行业对成本结构的重新评估

  4. AI商业模式从零边际成本向高COGS依赖转型

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 中国AI模型与成本结构
    • 开放权重模型
      • R&D成本固定
      • COGS随收入增长
    • 成本结构变革
      • 边际成本回归
      • 商业模式转型
    • 中国模型影响
      • Kimi K3突破
      • 全球竞争格局变化

金句 / Highlights

值得收藏与分享的关键句。

#AI#成本结构#中国模型#开放权重#行业分析
打开原文

谁害怕中国模型?– Ben Thompson 的 Stratechery

谁害怕中国模型?

2026年7月20日,星期一

收听播客

收听本篇文章:

登录收听

我曾讲过一个故事,关于我在凯洛格管理学院 STRT-431 课程的第一天。这门课是所有一年级 MBA 学生必修的入门课程,我翻阅了教材和案例研究,发现课程内容中竟然没有涉及任何科技公司。作为典型的我,课后我向教授提出了疑问,教授告诉我,这门课的目标并不是学习特定行业的知识,而是揭示一些普遍适用的原理,这些原理可以应用于任何行业中的任何公司。

正如我通常讲述这个故事时所说,我对此并不满意。在我看来,科技的本质,尤其是软件和分销的边际成本和交易成本为零这一事实,是根本不同的;在公式中填入零往往会带来灾难性后果!然而,我很快意识到,这正是我的机会。聚合理论的核心洞察是:零边际成本导致的价值链与人们过去对互联网的预期完全不同:在一个需求控制比供应分销更重要的世界中,集中化和规模效应成为主流。

然而,AI 的迷人之处在于,那些旧的普遍原则正在重新浮现。这一点在过去周末表现得尤为明显,当时人们在 X 上激烈争论 Kimi K3 的影响,这是另一款来自中国的开源模型,其能力已接近最先进的水平。简而言之,边际成本正在以显著的方式回归,这既体现在最先进免费模型的短期影响上,也体现在行业长期结构上。

成本与研发

关于开源模型讨论中最常见的误解之一是,它们更便宜——甚至可以说是免费的。毕竟,你只需下载权重,就可以跳过创建自己模型所需的时间、费用和能力。当然,这在某种程度上是正确的,但这里的“免费”指的是你在研发上需要花费的金额;研发是一项固定成本,与你产生的收入无关。如果你在研发上花费了 100 万美元,无论你产生 10 万美元还是 1 亿美元的收入,你在研发上的支出仍然是 100 万美元(当然,这会影响你的盈利能力)。

与收入相关的是 COGS(销售成本),对于 AI 来说,COGS 是真实存在的,这在软件领域已经很久没有出现过了。具体来说,运行模型的推理——无论是 Kimi 还是 Fable——都需要花费金钱,而 AI 提供商在推理上的支出金额,在大多数商业模式中,与收入直接相关。以之前的例子为例,产生 1 亿美元收入与 10 万美元收入可能需要 1000 倍的 COGS。具体来说,如果生成每 1 美元收入所需的令牌成本是 50 美分,那么 1 亿美元收入将产生 5000 万美元的 COGS;而 10 万美元收入将只产生 5 万美元的 COGS。

关于开放权重模型的关键点在于,它们并非免费提供服务。Kimi K3 每百万个输入令牌收费 3 美元,每百万个输出令牌收费 15 美元;这比 Sol 的每百万输入令牌 5 美元和每百万输出令牌 30 美元更便宜,但这可能甚至不是正确的衡量标准。

令牌与智能

Nvidia 首席执行官 Jensen Huang 将 Nvidia 正在构建的内容描述为“令牌工厂”,从 Nvidia 的角度来看,这种表述是有道理的。Nvidia GPU 是模型无关的:它们生成令牌,并以最快、最高效的方式完成。这导致了诸如每秒令牌数、首令牌生成时间、每瓦特令牌数、令牌成本等指标,Huang 认为这些指标将成为决策的基础。

这种表述在 AI 的第一个范式——ChatGPT 时代——确实有其合理性,当时令牌是直接交付给终端用户的。然而,在 AI 的第二个范式——推理时代——这种衡量方式变得复杂。推理过程会引发思维链令牌的爆炸式增长,不同模型需要不同数量的推理令牌才能得出正确答案。例如,据报道 Kimi 使用的令牌数量远多于 Sol,使其价格优势变得无关紧要。代理(Agents)引入了类似的动态:某些模型在执行代理工作流时所需的令牌数量更少,因此效率更高。

这意味着令牌并非一种商品。商品的定义特征是其可替代性:一加仑石油就是一加仑石油;一吨铜就是一吨铜;一蒲式耳小麦就是一蒲式耳小麦。然而,一个模型生成的令牌与另一个模型生成的令牌并不相同。真正可替代的是由令牌构建出的内容,即智能。换句话说,如果 Kimi 和 Sol 都生成了正确的答案,那么这个答案就是可替代的;生成正确答案所需的令牌数量差异则是成本结构差异的贡献因素。

智能的成本结构取决于以下几个因素:

  • 模型规模:权重和运行时状态决定了托管每个服务副本所需的昂贵内存和加速器数量。
  • 推理效率:架构选择(例如专家混合)可减少每个生成令牌的计算量。
  • 内存效率:架构选择可以减少 KV 缓存需求,从而允许更多并发请求并提高 GPU 利用率。
  • 服务效率:批处理、调度、前缀缓存和其他推理优化可最大化利用率并在请求之间共享工作。
  • 令牌效率:达到正确答案所需的令牌越少,推理成本就越低。

这之所以重要,是因为我们正迅速接近一个状态:许多经济上有益的任务的智能实际上已成为一种商品。例如,任何构建基本 CRUD 应用的开发者,很可能都能使用多个供应商的模型来完成。而在商品市场中,实现盈利的途径并非通过提高价格——毕竟,你可以(或很快就能)使用多个模型构建完全相同的 App——而是通过拥有更优越的成本结构。

理解商品市场

有必要深入探讨一下这些机制,因为正如我在几个月前 Amazon 的《Durability》一文中提到的,商品市场的动态是技术领域的人通常不太熟悉的:

  • 在商品市场中,所有人都以相同的价格出售商品,因为大家都在出售相同的产品;这个价格由供需关系决定。
  • 商品的需求是价格弹性函数:商品越便宜,需求越大,反之亦然。
  • 商品的供给是生产该商品边际成本的函数。

关键的理解点在于:不同供应商生产商品的边际成本存在差异。实际上这意味着成本结构最差的供应商最终只能以他们的边际成本出售商品(如果还能生产的话);其他所有供应商的利润取决于他们的成本结构相比边际供应商的优势程度。

以一个例子说明:

  • 供应商A可以以每单位10美元的价格生产10个单位的商品
  • 供应商B可以以每单位15美元的价格生产10个单位的商品
  • 供应商C可以以每单位20美元的价格生产10个单位的商品

假设价格弹性使得在20美元时存在对25个单位商品的需求。这意味着:

  • 供应商A将以20美元的价格出售10个单位商品,每单位赚取10美元
  • 供应商B将以20美元的价格出售10个单位商品,每单位赚取5美元
  • 供应商C将以20美元的价格出售5个单位商品,每单位赚取0美元

这个描述并不完全准确:供应商C之所以要承担供应缺口,是因为供应商A和B能够略微压低价格,这当然会影响需求(需求是弹性的),但这个例子说明了问题。供应商A拥有非常成功的业务,供应商B拥有良好的业务,而供应商C将面临破产。

破产风险使固定成本重新成为焦点:供应商C既有固定成本(如可能的研发支出),还可能为了购买生产商品所需的设备而承担了债务。它无法以考虑这些成本的价格出售商品——记住,市场出清价格近似于满足需求所需的最高成本单位的边际成本——但这些成本确实可能将供应商逐出市场。如果该供应商破产,价格将会上涨,直到有其他供应商决定进入市场(或现有供应商扩大产能)。

智能市场

让我们回到模型领域。目前,上述分析都不适用,因为前沿模型的需求超过了供给,而供给受限于计算资源的短缺。这种计算短缺不仅意味着像Nvidia这样的计算供应商可以获得非常大的利润空间,也意味着Nvidia的客户(如SpaceXAI)可以转而以高利润向Anthropic等公司转售计算资源。与此同时,Anthropic能够支付溢价,因为他们还可以以更高的溢价出售令牌。

然而,Anthropic之所以能获得巨大利润,不仅仅是由于超额需求:得益于模型能力、服务规模和令牌效率,Anthropic和OpenAI很可能是单位前沿级智能成本最低的公司之一。他们在竞争对手之前数月就已开始提供特定能力级别的模型,并同时应用最佳模型来优化这些成本。

也值得注意的是,市场尚未将智能视为一种商品:需求集中在Anthropic和OpenAI,而对其他质量较低的模型需求较少(因此SpaceXAI和Meta向Anthropic出售算力);可以这样理解对成本优化的追求:这实际上是通过按智能水平定义待完成任务(jobs-to-be-done)来实现的,从而让智能买家创造一个智能商品化的市场。然而从长远来看,那些处于前沿的公司最有可能主导非前沿市场,这些市场仅仅是前沿市场减去n个月的差距,即前沿模型制造商优化服务成本的月份。

以上所有内容想表达的是,我认为对Kimi和中国模型的反应被严重夸大了,至少从经济角度来看是如此。目前存在一个由算力短缺导致的价格上限;我高度怀疑中国模型在边际成本基础上的服务成本更低,它们只是看起来更便宜,因为Anthropic和OpenAI的供应极度受限,因此收取的费用远高于供需平衡时的水平。

前沿实验室的恐慌

那么,为什么模型制造商尤其对中国的模型感到如此恐慌?

首先,我认为前沿实验室的财务模型始终以训练成本为主导。只要训练消耗的GPU数量超过推理,最大化推理收入以资助下一轮训练就至关重要,这意味着需要对推理收取极高的价格。

然而,展望未来,我预计推理市场将比训练成本增长得更快(这包括假设训练成本将继续飙升),这意味着他们确实可以通过规模效应弥补成本。八个月前这一前景尚不明确,但代理范式的突破如此巨大,前沿实验室应更有信心相信,只要拥有足够的算力,他们不仅能生存,甚至能在降低价格的情况下蓬勃发展。

其次,智能实际上并非完美的商品,部分原因在于应用智能会自我提升。具体来说,运行推理的公司也在收集数据,这些数据将用于改进下一代模型。一方面,这进一步促使前沿实验室在算力增加时降低价格并提高使用率;另一方面,这也解释了为什么微软等公司越来越关注帮助公司运行自己的模型。如果中国模型是可行的替代方案,这种策略将更加可行。

第三,前沿实验室可以通过继续向上整合客户体验,不仅与中国模型区分开来,还能与其他实验室区分开。Claude Code和Codex的粘性令人印象深刻;无论你最初使用哪个接口,很可能会一直使用它,对于非技术用户来说,这种粘性将更加显著。从长远来看,这种向上整合的必然趋势意味着前沿模型对软件提供商(包括微软)构成了绝对威胁。另一方面,目前拥有客户体验的软件公司能接触到的竞争性模型数量,决定了它们抵抗前沿实验室渗透的能力。

最后,Anthropic 的意识形态角度是无法忽视的。这是一家认为只有自己才能被托付 AI 的公司,而开放权重的替代方案的出现对这一假设造成了致命打击。

中国的动机

Kimi 并不是唯一新推出的中国模型。据彭博社报道:

阿里巴巴集团控股有限公司的股票在周一上涨了多达 5.4%,原因是该公司推出了其旗舰产品 Qwen3.8 Max 模型的预览版,并将其描述为仅次于 Anthropic PBC 的 Fable 5。周日发布的这款模型仅在 Moonshot AI 于上周日推出一款引发市场震动并引发美国对中国正在缩小与 Anthropic 和 OpenAI 等全球领先企业差距担忧的强力新模型几天后。Qwen3.8 Max 拥有 2.4 万亿参数,与 Moonshot 的 Kimi K3 一同进入重量级模型行列。K3 拥有 2.8 万亿参数,可与顶级产品竞争,而阿里巴巴对这款模型也抱有同样高的期望。开发者现在可以通过阿里巴巴的编程平台(包括 Qoder)访问 Qwen3.8 Max。阿里巴巴计划很快开放该模型的权重,扩大预览版之外的访问范围。对这些中国制造的人工智能系统和模型的兴趣如此之高,以至于 Moonshot 在周日晚上被迫暂停接受新订阅,以应对压倒性的需求。

Qwen3.8 Max 也将拥有开放权重这一事实值得注意。今年早些时候,阿里巴巴曾停止发布其前沿模型的权重,但似乎已撤销了这一决定;我怀疑这一转变与上周习近平关于人工智能的讲话有关,该讲话重申了开放权重的策略:

我们应坚持开放和双赢的原则,推动创新发展。作为世界经济增长的新引擎和增长动力转换的加速器,人工智能正在从数字世界进入物理世界。我们应抓住这一稀有而历史性的机遇,鼓励开源、开放、协作和共享。我们应促进人工智能的技术创新、产业发展和场景应用。我们应在传统产业转型升级、新兴产业培育成长和未来产业前瞻性规划方面协调推进,使各行业和企业都能从人工智能中受益。

中国的战略显而易见:将互补品商品化。请注意,习近平明确将开放与人工智能“从数字世界进入物理世界”联系在一起;物理世界是被中国主导的世界,而中国在机器人等领域的领先地位将从广泛可用的人工智能模型中获益巨大。

同样,中国不希望美国在人工智能领域获得不对称优势;在削弱美国前沿实验室的同时,尽可能加强所有潜在的美国对手,这将大大有利于中国,而开放生态系统将附带的创新也将使中国受益。

蒸馏问题

同理,也不要指望中国会对前沿实验室的蒸馏攻击采取行动。我认为将中国实验室的所有成功都归因于蒸馏是错误的,但同样错误的是假装蒸馏没有为中国实验室带来显著优势。这种优势在过去一年中愈发明显,因为后训练强化学习对模型性能变得越来越关键。中国实验室无需从头构建强化学习环境,只需将前沿实验室的模型作为教师,就能以更低的成本实现快速改进(这并非中国模型开发成本较低的唯一原因,但确实是一个重要因素)。

有趣的是,中国模型在西方最重要的应用场景之一本身也是蒸馏。例如,刚刚发布开源权重模型的Thinking Machines,就依赖中国模型来解决强化学习的冷启动问题。Dean Meyer和Konstantine Buhler在X上撰写的优秀文章指出,蒸馏意味着西方开源权重模型在本质上处于劣势:

蒸馏并不能解释中国在开源模型领域的全部领先优势。中国实验室拥有世界级的研究人员、充足的算力、强大的预训练模型、软硬件协同设计,以及快速提升的后训练能力。但蒸馏压缩了从强大基础模型到接近前沿系统的昂贵最终差距。即使蒸馏在中国模型总能力中占比更小,它仍构成了其相对于美国开源模型的优势的重要部分。新的监管机制将使中国公司的大规模蒸馏变得更加困难、缓慢和昂贵。然而,监管无法消除国家支持的蒸馏。因此,每一次西方前沿技术的突破都会为中国的实验室创造新的教师模型。西方开发者要么必须独立复现这些能力,要么只能等待从中国模型中学习。这种差距为中国实验室提供了持续的结构性优势。

这是一个值得重申的观点:由于美国开源权重模型的开发者必须遵守前沿实验室的服务条款,他们(1)比中国替代方案更差,(2)最终反而通过中国实验室的中转进行了二次蒸馏。如果西方开源权重模型的开发者能直接追溯到源头,难道不是更好的选择吗?

就此而言,关于蒸馏还有一个更有趣的问题:为什么蒸馏本身是坏的?毕竟,大型语言模型不就是前沿实验室从开放互联网中抓取并蒸馏到模型中的所有知识的浓缩吗?这里究竟谁受到了伤害?

事实上,这个悖论本身就是解决方案。我认为开放权重模型对创新是有益的(而且,如前所述,我认为前沿实验室会表现良好),但依赖中国却是一个问题。美国应通过一项法律,(1)明确将用于训练模型的数据收集列为合理使用,(2)至少对美国公司禁止禁止蒸馏的条款。阻止蒸馏——这实际上只是查询API——几乎不可能实现;美国应采取相反策略,推动一项新的版权政策,既为实验室提供保障,又确保他们学到的内容能推动其他人的进一步创新。

担忧的原因

本文一直在试图缓解人们对Kimi K3的过度反应,以及对中文开放权重模型的普遍担忧;但有一个原因确实值得警惕,那就是网络安全。参考《The Stack》的报道:

Hugging Face表示,其生产基础设施上周早些时候被一个“自主”AI代理系统入侵。该平台的安全团队在事件响应(IR)初期受到阻碍,因为匿名的美国LLM前沿模型防护机制“无法区分事件响应者和攻击者”,他们表示。因此,Hugging Face的防御者转而使用中国Z.ai实验室开发的开源GLM 5.2模型——在自己的基础设施上运行该模型,以分析攻击者留下的17000多条日志或痕迹。对于总部位于纽约、允许用户协作开发模型、数据集和应用的Hugging Face来说,这是一次引人注目的公开承认。今年夏天,该公司实现了1亿美元的ARR里程碑。在一份事件报告中,公司建议防御者“在事件发生前,应准备好在自己的基础设施上运行的经过验证的高效模型[我们强调],以避免防护机制锁定,并防止攻击者数据和凭证离开您的环境。”

很难夸大特朗普政府对Anthropic发布Fable时恐慌反应的错误性,特别是这加剧了Anthropic最糟糕的倾向,即假设只有他们才能被信任使用强大的AI。在一个只存在一个AI的世界里,将最强大的网络安全能力保留给美国政府和可信盟友或许有道理;但现实并非如此。

未来将出现大量能够对现有基础设施发起网络攻击的模型,这些模型——事实上已经存在——将广泛可用。最佳防御——事实上是唯一可行的防御——是确保防御者也能使用最先进的模型。目前,由于特朗普政府的指令,防御者实际上被禁止使用Fable或Sol进行网络安全防护;这意味着最佳替代方案是使用来自一个多年来试图削弱我们网络防御的国家的模型。这简直是荒谬的!

更明智的路径已经很明确:首先,应放宽Fable和Sol在网络安全方面的限制,其次,要确保美国的开放权重模型制造商能与中国站在同一起跑线上。是的,前沿实验室对此会激烈反对,但政府应意识到,听从他们的夸张言论已使美国陷入依赖中国提供防御能力的境地。让前沿实验室通过自身优势取得成功;不要让他们定义安全或安全标准,也不要阻碍人类集体知识的阶梯。中国本身已足够难以竞争;让中国成为开放与创新的标杆,无异于放弃我们最大的优势。

分享

  • 在Facebook上分享(在新窗口中打开)Facebook
  • 在X上分享(在新窗口中打开)X
  • 在LinkedIn上分享(在新窗口中打开)LinkedIn
  • 邮件发送链接给朋友(在新窗口中打开)Email

2026.29:大型机与主角