The Hybrid AI Stack Is Coming for the Pricing Power of OpenAI and Anthropic

混合AI架构正在挑战OpenAI和Anthropic的定价优势 - Gradient Flow

混合AI架构正在挑战OpenAI和Anthropic的定价优势

发布者

Ben Lorica

2026年6月17日

2026年5月29日

发布于

未分类

.meta-info

.post-thumbnail

OpenAI和Anthropic在继续占据大量基础模型使用支出的同时，正在走向公开。但部署模式开始讲述一个更加复杂的故事。公司正在构建混合模型组合，当便利性、支持和前沿能力至关重要时，使用专有模型；而当成本、隐私、定制化和部署控制更为重要时，转向开放权重模型。随着团队在操作多个模型方面变得越来越熟练，单一供应商的AI架构将不再像默认选择，而更像是一个过渡阶段。

喜欢这封通讯吗？考虑成为付费支持者吧🙏

##### 开放权重能给你什么，又不能给你什么

经济因素很难被忽视。在之前的一篇文章中，我曾指出CFO已经变成了CTO，即首席令牌官。这个框架在这里同样适用。专有API在原型设计、广泛助手和复杂推理任务中仍然有用。但一旦工作流程变得稳定且高流量，基于令牌的定价开始感觉像是对规模的一种税收。开放权重模型可以显著降低单位成本，适用于可重复的工作，如文档处理、分类、提取、内部搜索、客户服务和摘要。节省的成本并非自动实现。首先需要吸收基础设施和工程成本。但对于每天运行数百万次推理的组织来说，这种优势可能比许多高管预期的要早得多。

( 放大 )

吸引力不仅仅是成本更低。开放权重模型为企业提供了对数据流向、模型如何适应以及生产中运行的版本更多的控制。这对银行、保险公司、医疗组织、制造商、软件公司以及处理敏感记录、专有代码、合同、客户对话或受监管数据的任何企业都非常重要。在私有云、本地环境或批准的区域基础设施上运行的模型，可能比仅通过第三方端点访问的模型更容易治理。使用开放权重模型，企业可以选择一个模型版本，对其进行测试、批准并持续运行。这对于需要审计和合规的受监管或高风险系统来说非常有价值。微调和后训练使团队可以在不重新训练整个系统的情况下调整模型行为。RAG（检索增强生成）使模型在回答问题之前可以查阅一个精心整理的内部知识库。这些模式共同使小型模型在特定公司的工作流程中表现良好。

实际的障碍同样具有现实意义。转向开放权重模型并不像更换一个 API 密钥那样简单。专有平台将托管端点、扩展性、文档、安全功能、企业支持和合同责任打包在一起。而开放权重模型则将这些负担更多地转移到买家身上。团队需要进行 GPU 规划、模型服务、推理优化、监控、评估、日志记录、访问控制、回退路径和成本跟踪。由于 API 费用消失，总拥有成本很容易被低估，但运营工作却并未减少。在一些组织中，基础设施和专业工程人才可能成为主要成本。开放权重可以改善经济性，但只有那些足够成熟、能够良好运行这些模型的团队才能实现这一点。

治理问题则更加难以回避。专有平台通常包含安全层和企业风险支持。而开放权重模型通常需要公司自行构建这些控制措施。输入/输出的防护措施、红队测试、事件响应、安全工件管理以及模型来源，都成为了一线工程关注的重点。像 Heretic 这样的工具展示了这一点的重要性。安全防护措施可以迅速从开放权重模型中被移除，这显然带来了合规性和滥用的风险。法律团队也有实际的工作要做。“开放权重”并不意味着无限制。许可证可能会限制商业使用、再分发、规模、地理范围或特定功能。而当这些模型用于代码生成时，公司还需要流程来扫描输出中的漏洞和许可证冲突。

##### 新的企业模型架构

下一阶段不再是开放与封闭之间的选择，而是根据工作负载来选择特定模型。常规的分类任务可以交给一个较小的开放权重模型来处理。敏感的内部搜索流程可以在私有基础设施中运行。复杂的推理问题则可以升级到专有的前沿模型。这才是混合模型组合的真正含义。架构不再只是选择一个最佳模型，而是构建一个路由和治理层，该层可以评估请求、选择合适的模型、监控成本和质量，并在需要时替换模型。我已经在我的编码流程中看到了这一点。我的 O 2 工具包，结合使用开源代码和 OpenRouter，之所以有用，正是由于不同的模型适用于不同的任务。

随着我们向代理式工作流程发展，这种混合方法变得更加关键。当你构建能够持续运行循环、调用工具并处理后台任务的自主代理时，你的令牌消耗将大幅增加。如果你在高端专有端点上运行这些多步骤的工作流程，你的月度 API 费用将急剧上升。相反，一个更聪明的架构会使用较小的本地开放权重模型来处理代理循环中的常规、重复性步骤，而只将高风险决策或复杂推理任务升级到封闭的前沿模型。这种设置还可以将代理的敏感工具集成和内部系统命令保留在你自己的安全网络中，而不是通过外部 API 进行路由。但问题是，代理会使控制层更难构建。每个操作都需要被记录、可审计，并且理想情况下是可逆的，而大多数部署代理的团队尚未构建这样的基础设施。

开放权重是一个商业决策，而商业决策是可以被逆转的。

这种工作负载路由的转变对 OpenAI 和 Anthropic 来说带来了令人不安的影响，尤其是在它们向 IPO 迈进的过程中。它们的收入可能仍会快速增长，但定价能力将面临来自下方的压力。如果开放权重模型足够好，能够承担更大比例的常规推理任务，企业将变得更加谨慎，只在必要时支付高昂的 API 价格。它们仍然会为前沿推理、合规管理、系统稳定性、企业支持、便利性和强大的安全措施付费。但它们将不太愿意将每一份摘要、提取、路由、标签、检索和支持工作流程都发送给最昂贵的模型。收入可以增长，但价格的主导地位却在减弱。

最大的不确定性在于供应。开放权重并不一定是一种有保障的公共产品，而是一种商业决策，而商业决策可能会被逆转。OpenAI 多年前就证明了这一点。如今，Meta 对 Llama 作为开放生态系统的承诺似乎不如许多人预期的那样坚定。与此同时，开放权重的格局正变得越来越集中于中国实验室，而且由于一些供应商在营收压力下转向封闭或更严格的许可模式，这种供应本身也在减少。这是故事中值得更多关注的部分。企业绝对应该认真对待开放权重，但不应假设生态系统会一直保持丰富、宽容和稳定。最终胜出的团队将是那些能够在市场变化时测试、路由、治理和替换模型，而无需每次都重建其 AI 基础设施的团队。