What I learned from companies training their own models

从企业自主训练模型中学到的经验 - Gradient Flow

从企业自主训练模型中学到的经验

Ben Lorica

2026年10月20日

订阅 • 往期内容

模型工厂比模型本身更重要

几个月前，我写过关于日益增长的后训练堆栈的文章，这些堆栈让团队能够将通用模型转化为更适合自身工作的模型。最近，我与汤森路透的CTO Joel Hron讨论了这一想法的更雄心勃勃的版本。他的团队从一个强大的开源模型开始，继续在汤森路透的数据上进行预训练，然后将其通过多个阶段的后训练。我将这种深度模型定制方法称为"深度模型定制"。汤森路透并非孤例。Cursor、C3 AI、字节跳动、思科和Reddit都在探索类似方法的变体，他们的经验已经揭示了一些有用的教训。

常读读者？请考虑成为付费支持者 🙏

##### 为什么微调并不总是足够的

选择这条道路的公司通常会先尝试更简单的方案。汤森路透最初使用商业模型和相对简单的LoRA微调。这些模型在目标任务上有所改进，但其他能力却退化了。C3 AI遇到了不同的问题。其专有的类型系统并未出现在公开训练数据中，因此仅靠检索在内部编码评估中仅实现了11%的通过率。添加代理和工具后，前沿模型的通过率提升至约60%，但响应时间需要约两分钟。信息是可用的，但模型并未真正理解C3系统的运作方式。

这个教训并不是说RAG或微调无效。它们解决的是不同问题。当信息变化或数据量太大无法放入模型权重时，检索非常有用。后训练可以重塑行为并改进特定任务。

持续预训练通过改变模型对领域的认知来更深入地进行优化。当公司的优势来自于在公开训练数据中表现不佳的知识、语言、工作流程或判断时，这一点尤为重要。字节跳动希望Valley3理解多模态电商。思科希望有一个能理解网络安全的小模型。Reddit希望有一个能理解社区行为和管理语境的模型。

##### 检查点只是起点

通用配方从模型选择开始。这些团队通常不会从零开始预训练通用模型。他们会将自己的工作负载与开源模型进行评估，选择最佳起点。汤森路透通过内部评估选择了Qwen。Cursor在对候选模型进行编码知识测试和自身代码测试后选择了Kimi K2.5。C3 AI随着更强开源模型的出现，已在五代模型中重复了这一流程。

接下来是持续预训练。公司会将领域数据混合到模型中，同时通常保留通用数据以防止专业化抹杀有用的通用能力。汤森路透在包含法律、监管、新闻和其他材料的更大集合中提取了2000亿token的混合数据进行训练。字节跳动为Valley3增加了电商训练阶段。思科在数十亿token的网络安全文本上继续训练Llama 3.1 8B。这就是数据工程至关重要的地方。团队必须决定哪些数据进入混合，哪些数据被移除，以及更多数据是否真的能提升模型性能。

然后是训练后阶段。团队会使用监督学习示例、偏好数据、强化学习或它们的组合。令我印象深刻的是，训练环境往往与实际产品高度相似。Cursor在与Cursor自身编码环境相似的工具中训练Composer模型。Thomson的模型被训练使用Thomson Reuters的搜索和研究系统。Valley3学习操作多模态产品搜索引擎。目标不仅是教会模型该知道什么，更重要的是教会它如何在公司内部完成工作。

##### 这些模型无需取代一切

Thomson Reuters的一个关键经验表明，成功并不需要替换所有商业模型。Hron告诉我，他们的前沿模型（Thomson）目前在CoCounsel中处理约5%到10%的推理任务。其主要生产任务是高容量文档分析，例如在并购尽职调查期间审查大量合同集合。CoCounsel仍然使用Claude、OpenAI、Gemini和小型模型。当法律专业性、控制能力和经济性使其成为更优选择时，Thomson才会接手相关工作。

其他部署也遵循类似模式。C3的Narwhal处理C3特有的编码、文档、客户支持和代理工具，而更广泛的平台保持模型无关性。Cursor在第三方模型之外提供Composer。思科将安全模型部署到XDR和其他安全工作流中。Reddit报告称，基于Nova的审核工作在整合多个模型曾处理的任务时，减少了遗漏威胁的情况。专用模型无需处理所有请求才有价值，只需负责高容量或高度差异化的任务部分即可体现价值。

##### 训练运行周围的挑战才是真正的难点

Thomson Reuters清楚地展示了这需要付出什么。其核心工作涉及约30名科学家和工程师，部分通过收购Safe Sign获得。它还拥有大多数公司难以快速复制的资源：3000多名法律和税务专家、数十年精心整理的元数据、数万亿token的内容、成熟的信息检索产品，以及能够检测模型在法律领域是否提升而在其他领域变差的评估体系。最终训练运行的计算成本不到45万美元，但Hron估计包括人员和基础设施在内的两年整体投入约为4000万美元。

其他案例差异显著。C3归功于一个小的数据科学团队，并已拥有专有代码、文档、生产反馈和内部评估。Cursor自行构建了更多基础设施，包括分布式训练、大规模强化学习和沙盒编码环境。Reddit则采取相反路线，使用Amazon Nova Forge，该平台提供模型检查点和托管训练基础设施。这呼应了我之前关于数据的观点：一堆专有文档本身并不构成显著优势。真正有价值的是将数据、专家判断、生产失败和评估转化为更好模型的机制。

##### 模型工厂可能比模型本身更重要

这些项目最引人注目的特点是，多个团队已经将底层模型检查点视为可替换的资产。路透社（Thomson Reuters）计划随着新开放模型的出现而从这些模型重新开始。C3 AI 已经在多个不同基础架构上重复了这一流程。Cursor 将其训练系统复用到了 Composer 2.5 的开发中。越来越明显的是，持久资产的核心正在转变为"模型工厂"：包括数据流水线、评估体系、训练配方、强化学习环境、服务基础设施，以及懂得如何再次运行整个训练闭环的人才。

这些项目最引人注目的特点是，多个团队已经将底层模型检查点视为可替换的资产。路透社（Thomson Reuters）计划随着新开放模型的出现而从这些模型重新开始。C3 AI 已经在多个不同基础架构上重复了这一流程。Cursor 将其训练系统复用到了 Composer 2.5 的开发中。我最近在与 Datadog 的 Ameet Talwalkar 的对话中看到了这一演进的下一步。Datadog 在 Toto 项目中更进一步，利用其已有的海量可观测性数据，从零开始预训练了自己的时序基础模型。综合这些案例可以看出，持久资产的核心正在转变为"模型工厂"：包括数据流水线、评估体系、训练配方、强化学习环境、服务基础设施，以及懂得如何再次运行整个训练闭环的人才。

我并非建议每家大型企业都应开始训练自己的模型。大多数团队应优先穷尽提示工程、检索增强、更高效的工具链以及传统的微调方法。深度模型定制仍然成本高昂且操作复杂。但门槛正在降低。随着开源权重模型的持续改进，以及AI基础设施越来越容易租赁或购买，拥有独特数据和高吞吐量业务场景的企业将能够走得更远。我预计，有趣的问题将从"企业是否能进行如此深度的模型定制"，转变为"哪些业务环节的价值足以支撑这种投入"。

如果AI不必用文字思考？

了解更多 👉 混合推理代理（Stanford, UIUC）

AI与就业：浪潮上升

来自《AI将先取代任务而非直接取代工作》 /think