The Model Factory Matters More Than the Model

模型工厂比模型本身更重要 - 梯度流

模型工厂比模型本身更重要

Ben Lorica

2026年10月21日

几个月前，我写过关于日益增长的后训练堆栈，它让团队能够将通用模型转化为更适合自身工作的模型。最近，我与汤森路透首席技术官Joel Hron讨论了这一想法的更雄心勃勃的版本。他的团队从一个强大的开源模型开始，继续在汤森路透数据上进行预训练，然后将其送入多个阶段的后训练。我将这一过程称为深度模型定制。汤森路透并非孤例。Cursor、C3 AI、字节跳动、思科和Reddit都在探索类似方法的变体，他们的经验已经揭示了一些有用的教训。

常读本刊？考虑成为付费支持者 🙏

##### 为什么微调并不总是足够

选择这条道路的公司通常首先尝试了更简单的方案。汤森路透最初使用商业模型和相对简单的LoRA微调。这些模型在目标任务上有所改进，但其他能力却退化了。C3 AI遇到了不同的问题。其专有的类型系统未出现在公开训练数据中，因此仅靠检索在内部编码评估中仅取得11%的通过率。添加代理和工具后，前沿模型的通过率提高到约60%，但响应时间需要约两分钟。信息是存在的，但模型并未真正理解C3系统的运作方式。

需要明确的是，RAG或微调并非无效。它们解决的是不同问题。当信息变化或过于庞大无法放入模型权重时，检索非常有用。后训练可以重塑行为并提升特定任务表现。

持续预训练通过改变模型对领域的认知来实现更深层次的优化。当公司的优势源于在公开训练数据中表现不佳的知识、语言、工作流程或判断时，这一点尤为重要。字节跳动希望Valley3理解多模态电商。思科希望获得一个理解网络安全的小模型。Reddit希望获得一个理解社区行为和管理语境的模型。

##### 检查点只是起点

通用配方从模型选择开始。这些团队通常不会从零开始训练通用模型。他们会将自己的工作负载与开源模型进行评估，选择最佳起点。汤森路透通过内部评估选择了通义千问。Cursor在对候选模型进行编码知识测试和自身代码测试后选择了Kimi K2.5。C3 AI随着更强开源模型的出现，已在其五代产品中重复了这一流程。

接下来是持续预训练。公司会在模型中混合领域数据，同时通常保留通用数据以防止专业性抹杀有用的通用能力。汤森路透在2000亿token的混合数据上进行训练，这些数据来自法律、监管、新闻等更大规模的材料集合。字节跳动为Valley3增加了电商训练阶段。思科在数十亿token的网络安全文本上继续训练Llama 3.1 8B。这就是数据工程至关重要的地方。团队必须决定混合数据中包含什么、剔除什么，以及更多数据是否真的能提升模型表现。

然后是训练后的阶段。团队会使用监督示例、偏好数据、强化学习或这些方法的组合。令我印象深刻的是，训练环境与实际产品的相似程度非常高。Cursor 在类似 Cursor 使用的编码环境中训练 Composer。Thomson 训练其模型使用 Thomson Reuters 的搜索和研究系统。Valley3 学习如何操作多模态产品搜索引擎。目标不仅是教会模型需要了解什么，还要教会它如何在公司内部完成工作。

##### 这些模型无需取代所有现有系统

Thomson Reuters 的一个关键经验是，成功并不需要替换所有商业模型。Hron 告诉我，他们的前沿模型（Thomson）目前在 CoCounsel 中处理约5%到10%的推理任务。其主要生产任务是高容量文档分析，例如在并购尽职调查期间审查大量合同集合。CoCounsel 仍然使用 Claude、OpenAI、Gemini 和小型模型。当法律专业性、控制能力和经济性使其成为更优选择时，Thomson 会接手相关工作。

其他部署也遵循类似模式。C3 的 Narwhal 处理 C3 特定的编码、文档、客户支持和代理工具，而更广泛的平台保持模型无关性。Cursor 在第三方模型之外提供 Composer。思科将安全模型部署到 XDR 和其他安全工作流程中。Reddit 报告称，基于 Nova 的内容审核工作减少了威胁遗漏，同时整合了之前由多个模型处理的任务。专用模型无需处理所有请求才有价值，只需掌控高容量或高度差异化的任务部分即可产生价值。

##### 训练运行周边的挑战远大于模型本身

Thomson Reuters 的案例清晰地展示了所需投入。其核心工作涉及约30名科学家和工程师，部分通过收购 Safe Sign 获得。它还拥有大多数公司难以快速复制的资源：3000多名法律和税务专家、数十年的结构化元数据、数万亿个标记的内容、成熟的信息检索产品，以及能够检测模型在法律领域是否提升而在其他领域是否退步的评估体系。最终训练运行的计算成本低于45万美元，但 Hron 估计包括人员和基础设施在内的两年整体投入约为4000万美元。

其他案例的投入差异很大。C3 依靠一个小的数据科学团队，且已拥有专有代码、文档、生产反馈和内部评估。Cursor 自行构建了更多基础设施，包括分布式训练、大规模强化学习和沙盒编码环境。Reddit 采取了相反路线，使用 Amazon Nova Forge，该平台提供模型检查点和托管训练基础设施。这呼应了我之前关于数据的观点：一堆专有文档本身并不构成显著优势，真正有价值的资产是能够将数据、专家判断、生产失败和评估转化为更好模型的系统。

##### 模型工厂可能比模型本身更重要

这些项目中最引人注目的部分在于，多个团队已经将底层模型检查点视为可替换的组件。汤森路透预计会随着新开源模型的出现而从这些模型开始构建。C3 AI 已经在多个不同平台上重复了这一流程。Cursor 将其训练基础设施复用到了 Composer 2.5 的开发中。越来越明显的是，持久性资产正逐渐演变为模型工厂：包括数据流水线、评估体系、训练配方、强化学习环境、服务基础设施，以及懂得如何再次运行整个流程的人员。

这些项目中最引人注目的部分在于，多个团队已经将底层模型检查点视为可替换的组件。汤森路透预计会随着新开源模型的出现而从这些模型开始构建。C3 AI 已经在多个不同平台上重复了这一流程。Cursor 将其训练基础设施复用到了 Composer 2.5 的开发中。我最近在与 Datadog 的 Ameet Talwalkar 的对话中看到了这一演进的下一步。Datadog 在 Toto 项目中更进一步，利用其已有的海量可观测性数据，从零开始训练了专属的时序基础模型。综合这些案例可以看出，持久性资产正逐渐演变为模型工厂：包括数据流水线、评估体系、训练配方、强化学习环境、服务基础设施，以及懂得如何再次运行整个流程的人员。

我并非建议每家大型企业都应开始训练自己的模型。大多数团队应优先穷尽提示工程、检索增强、更高效的工具链以及传统的微调方法。深度模型定制仍然成本高昂且操作复杂。但门槛正在降低。随着开源权重模型的持续优化，以及 AI 基础设施租赁和采购的便捷性提升，拥有独特数据和高吞吐量业务场景的公司将能走得更远。我预计，有趣的问题将从"企业是否能进行如此深度的模型定制"，转变为"哪些业务环节的价值足以支撑这种定制投入"。