专门化胜过规模：大多数AI采购决策忽视的战略变量

* [当模型的训练历史与其部署任务足够接近时，参数数量不再是决定性变量。一个30亿参数的专用模型在某个测量良好的企业领域中超越了所有测试的商业前沿API——成本大约低了五十倍。](https://huggingface.co/blog/Dharma-AI/specialization-beats-scale#when-a-models-training-history-is-moved-close-enough-to-its-deployment-task-parameter-count-stops-being-the-decisive-variable-a-3-billion-parameter-specialized-model-outperformed-every-commercial-frontier-api-tested-in-a-well-measured-enterprise-domain--at-roughly-fifty-times-lower-cost "当模型的训练历史与其部署任务足够接近时，参数数量不再是决定性变量。一个30亿参数的专用模型在某个测量良好的企业领域中超越了所有测试的商业前沿API——成本大约低了五十倍。")

[](https://huggingface.co/blog/Dharma-AI/specialization-beats-scale#when-a-models-training-history-is-moved-close-enough-to-its-deployment-task-parameter-count-stops-being-the-decisive-variable-a-3-billion-parameter-specialized-model-outperformed-every-commercial-frontier-api-tested-in-a-well-measured-enterprise-domain--at-roughly-fifty-times-lower-cost) 当模型的训练历史与其部署任务足够接近时，参数数量不再是决定性变量。一个30亿参数的专用模型在某个测量良好的企业领域中超越了所有测试的商业前沿API——成本大约低了五十倍。

• * *

今年四月，我们发布了DharmaOCR——一对用于结构化OCR的专用小语言模型，同时发布了一个基准测试和相关论文。这些模型和基准测试都可在Hugging Face上获取。它们共同构成了Dharma更广泛研究努力的一部分，旨在研究专业化、对齐和推理经济学如何在生产AI系统中相互作用。

本文从这些发现中提取了一个战略含义：专业化、分布对齐和参数规模之间的关系。以下内容在论文支持的范围内对此进行阐述。

• * *

在过去三年中，企业AI战略主要基于一个稳定的假设：最安全的选择通常是可用的最大前沿模型。较小的模型主要在工作负载可以容忍质量小幅下降以换取更低成本的情况下被考虑。该假设背后的逻辑很简单。能力似乎与参数数量成比例增长，前沿供应商始终在主要基准测试中领先，而选择错误模型的成本通常被认为大于支付领先模型的成本。

这种推理是合理的。但实证记录现在包含了一个结果，其比较集无法轻易解释这一结果。

今年早些时候，Dharma发布了一项基准测试，其中一款30亿参数的模型——通过任何资源充足的企业都能复制的微调管道进行专业化——超越了所有测试的商业前沿API。这不是小幅优势，也不是买家会忽视的指标。成本差距与质量差距呈相反方向：得分最高的模型也是运营成本最低的模型，其优势足以在任何有意义的规模下改变采购计算。

这个结果并非孤立事件。这是迄今为止Dharma在其他领域观察到的模式中最严格测量的实例——越来越多的专业化研究文献开始记录这种模式（Subramanian等，2025；Pecher等，2026）。但它确实提出了一个值得明确提出的问题：当最大模型不是表现最好的模型时，是什么变量在起作用？

战略默认

采购默认做法并非偶然出现。它出现是因为，在过去三年中的大部分时间里，它是正确的。

当GPT-4发布时，它在重要的基准测试中超越了每一个较小的模型。这一模式在Claude 3、Gemini 1.5以及2025年的每一代前沿发布中重复出现，伴随着一些改进。能力与参数数量和训练计算量成比例增长（Kaplan等，2020）——这是OpenAI多年前正式化的经验关系。由此得出的教训是：选择最大可用模型的买家平均而言选择了表现最好的工具。在缺乏更有判别力信号的情况下，默认选择规模是理性的举措。

这个假设是合理的，因为对于产生它的大多数比较而言，它是正确的。变化的不是这个假设一直错误。变化的是支撑它的比较集可能并不完整。

缺失的是另一种类型的模型。不是一个较小的前沿模型。而是一个专门化的模型——其训练历史通过一系列微调步骤有意地向其将要执行的任务靠近，从而将较小的基础模型适配到将要部署的领域。开篇描述的论文是首批在成本、质量和生产稳定性方面并行测量这种比较的研究之一。

实证记录实际显示的内容

论文中使用的基准测试是一个特定领域的评估：针对印刷文档、手写文本以及法律和行政记录的巴西葡萄牙语 OCR。该基准测试本身并不是本文的重点。重要的是它测量了什么，以及它运行的比较。

在提取质量方面，比较中得分最高的模型是专门化的 30 亿参数模型。它在基准测试的综合得分上获得了 0.911 分，该分数结合了编辑距离相似性和 n-gram 重叠。最接近的前沿替代方案——Claude Opus 4.6——得分为 0.833。其后依次是：Gemini 3.1 Pro 得 0.820 分，GPT-5.4 得 0.750 分，Google Vision 得 0.686 分，Google Document AI 得 0.640 分，GPT-4o 得 0.635 分，Amazon Textract 得 0.618 分，以及 Mistral OCR 3 得 0.574 分。专门化模型获得第一名，与 Claude Opus 4.6 的差距——接近八个百分点——比比较中任何其他相邻名次之间的差距都要大。

在 DharmaOCR-Benchmark 上评估的模型结果。第一列中的括号表示使用的专业化技术。当模型未标记为 LoRA 时，意味着进行了完整的微调。标记为"Quant"的条目表示在量化配置中性能最佳的 AWQ 量化变体。

在成本方面，差距要大得多。专门化的 3B 模型每百万页的运行成本大约比 Claude Opus 4.6 低 52 倍——这个边际是从推理基础设施成本对比已发布的 API 定价计算得出的。质量和成本的关系图，以帕累托前沿绘制，显示专门化模型位于图表的左上方，商业 API 位于下方右侧。（财务建模深度在文本退化的真正经济学中展开。）

在生产稳定性方面，同一模型产生了最低的文本退化率——这是衡量生成过程进入自我强化循环并无法产生可用输出频率的指标。（生产稳定性案例在集群的文本退化文章中展开。）3B 模型在此基准测试中记录了 0.20%；下一个最近的专门化模型为 0.40%；更大的通用开源基线模型运行值更高；商业 API 在此指标上没有直接进行基准测试。

跨对齐阶段的文本退化率(%)。在大多数情况下，SFT 相对于原始模型减少了退化，而 DPO 进一步减少了退化，即使与 SFT 调优模型相比也是如此。

这三个发现——质量、成本和稳定性，都由同一个 3B 专门化模型领先——构成了文章的经验基础。它们共同使经验论证比任何单一发现都更有力。论文没有声称，本文也没有声称，该结果适用于每个企业 AI 工作负载。它声称的是，在这个基准测试中，实验中最小的专门化模型在每个重要的维度上都是第一。

这使得显而易见的问题成为正确的问题。比较中最小的模型在质量、成本和稳定性上都获胜了。仅凭参数数量无法解释这一结果。自然的后续问题——确定真正起作用的变量——是对话接下来的方向。

起决定作用的变量

这部分是直观的。专注于部署任务的 30 亿参数模型通常会超越一个大得多的模型，后者的参数分布在任务永远不会涉及的材料上——其他语言、其他语料库、其他领域。论文补充的内容走得更远：一个重要变量不仅是参数如何分配，而是模型的训练历史如何向任务靠拢。在报告的实验中，这个变量比任何其他测试变量——包括参数数量——都能更可靠地预测相对性能。

论文直接命名了这一点。在其讨论中，作者将结果描述为支持"情境专业化可能比单纯的模型参数数量更具决定性"这一观点。决定模型表现最好的不是参数数量，而是其训练轨迹与部署任务的接近程度。在更广泛分布上训练的较大模型排在了在较窄分布上训练的较小模型之后。更窄的训练是产生胜利的变量。

这种思考模型性能的方式与采购默认方式所邀请的不同。在默认情况下，参数数量是主导变量，训练历史是次要修饰因素。在论文提出的框架下，优先级颠倒了。与任务的分布对齐成为主导变量。参数数量成为塑造给定对齐步骤产生多少收益的多个因素之一。

专业化不是补偿规模小的方式。它是对齐的方式。

数据证实了这一框架。3B Nanonets-OCR2——在论文开始前就已经专门针对通用 OCR 进行了优化——通过监督微调和直接偏好优化在目标领域进行了微调，达到了 0.921 的得分，退化率为 0.20%。具有相同架构的 3B 通用模型 Qwen2.5-VL-3B 经过相同的程序处理后，达到了 0.793 的得分，退化率为 1.41%。相同架构，相同训练，不同结果。变量是模型在程序开始前已经向任务靠近了多少距离。

根据论文提出的框架，分布对齐并不仅限于 OCR。这是模型与其被要求执行的任务之间关系的一个属性。对于给定的企业工作负载，哪个模型最佳的问题，在这个框架下，主要是一个关于其训练历史有多对齐的问题——而不是模型有多大。

如果分布对齐是最重要变量之一，那么下一个问题就是它如何积累。论文的证据表明它不是通过单一步骤到达的。上面的结果实际上是更广泛模式的一个实例：在论文的数据中，专业化表现得更像是一个层次结构，而不是二元状态，模型可以一步一步地在这个层次中移动。

专业化复合效应

对齐不是一个模型要么有要么没有的单一事物。它是层次结构中的一个位置，可以一步一步地向上移动。通用模型位于底部；通用域专家（为更广泛的工作类别训练）位于其上方；域专家（为将要部署的具体工作训练）位于更高层。相同的下游训练会产生不同的结果，取决于模型从哪个步骤开始。

论文的证据是结构性的。两对比较直接说明了这一点。

在 70 亿参数规模上：从 Qwen2.5-VL-7B-Instruct——通用起点——衍生出的最佳微调模型达到了 0.906 的得分，退化率为 1.01%。相同的训练应用于 olmOCR-2–7B——已经专门针对通用 OCR——达到了 0.927 的得分，退化率为 0.40%。质量提升约为 2.3%；退化率几乎下降了一半。相同架构，相同数据，相同训练管道。变量是起始位置。

在 30 亿参数规模上（前面介绍的比较）：Qwen2.5-VL-3B 最终得分为 0.793，退化率为 1.41%；Nanonets-OCR2–3B 最终得分为 0.921，退化率为 0.20%。相同程序，相同架构类别，不同起始位置。质量提升约为 16%；退化率下降了大约七倍。

渐进专业化策略和两条训练路径的比较。显示了三个专业化级别——普通通才（第 1 级），通用域 OCR 专家（第 2 级）和特定域 OCR 专家（第 3 级）——以及投影的第 N 级用于未来子域专业化。

两对比较，两个参数规模，两个一致的结果。专业化会累积。已经更接近其最终任务更广泛类别的模型，比从更广泛分布开始的模型更能从相同的特定域训练中获益更多。该程序不会凭空产生对齐。它建立在已经存在的任何对齐之上。

专业化有多个层次，每个层次都建立在前一个层次编码的分布之上。多阶段训练可以逐步将模型推向目标任务分布，即使在相似的架构和计算约束下也能产生明显不同的下游结果。

这种模式——对齐作为累积量——是论文证据中最有力的主张。它的边界值得明确标记。该层次结构在一个域中、一个基准测试中、通过两对模型比较得到了证明。该机制没有域特定的原因限制在 OCR 中——但证据尚未在其他地方收集，尊重其边界的论证应该标记这种区别。将这种实证调查扩展到其他企业域是这项工作开启的更广泛研究方向的一部分，Dharma 计划在更多企业域中进一步调查。

在标记了这一边界之后，战略对话继续推进。在一个经过良好测量的企业域中被证明超越参数计数的变量，现在为企业战略团队提供了一个需要权衡的因素——不是在每个环境中，而是在任何可以运行对齐测试的地方。

战略问题的变化

阅读这篇论文的一个有用方式不是将其视为对企业下一步应该做什么的指导，而是作为对企业应该问什么问题的提示。三个问题变得更加清晰。

第一个：是否应该将分布对齐与参数计数一起提升为严肃 AI 评估中的一级变量。论文的证据并不主张将其提升到参数计数之上。它更谦逊地认为，对齐作为一个变量足够大，应该被明确测试而不是假设其很小。

第二个问题是：仅凭基准测试的领先地位，是否足以作为企业采购决策的充分证据？在一个测量良好的领域中，引领公共基准的模型并非交付最佳结果的模型。如果这种分歧出现在其他领域——而该论文并未证实确实如此，只是表明可能出现这种情况——企业的评估可能需要增加一层额外的证据，基于代表部署环境的工作负载来运行。

第三个问题涉及架构而非方法。如果对齐是在一个复合层次结构中的位置，那么起始模型的选择——不仅仅是微调程序——本身就成为一项战略决策。相比大型通用模型，在相同训练预算下，更接近部署任务的起始模型可能会产生明显更好的结果。但更深层的影响可能是组织性的而非程序性的。如果专业化具有复合效应，企业最终可能从构建一个逐步对齐到自身领域、工作流程和运营约束的模型生态系统中获益更多，而不是寻找单一的全能模型。这种架构在实践中是否具有优势，是每个组织都必须在自身环境中评估的问题。

有限的重新框架

本文的贡献范围较窄，这是有意为之的设计。文章并未论证前沿模型是劣质的或可抛弃的，也未建议应该颠倒采购默认选择。文章基于一篇论文的证据论证了前沿模型并不一定是每个企业 AI 工作负载的最佳性能选择。在报告的实验中，训练历史与部署任务更紧密对齐的小型专业模型在质量、成本和生产稳定性方面都优于评估的大型商业 API。这并不意味着前沿模型是劣质的，而是专业化历史对于企业 AI 系统来说可能是一个比当前许多评估框架所假设的更为重要的战略变量。

我们撰写这篇文章不是为了论证规模不再重要，而是为了突出当前企业 AI 对话中可能仍然低估的一个变量。训练历史可以被观察、评估，并通过连续的专业化阶段逐步接近部署任务。在论文报告的比较中，这种关系实质性地改变了每个评估模型的排名。它在其他地方是否改变排名，是下一组实验需要回答的问题。

来源：

• Cardoso, Gabriel Pimenta de Freitas, 等. "DharmaOCR: Specialized Small Language Models for Structured OCR that outperform Open-Source and Commercial Baselines." arXiv 预印本 arXiv:2604.14314 (2026).

• Subramanian, Karthik, 等. "Small Language Models for Domain-Specific Enterprise AI Workloads." arXiv 预印本 arXiv:2503.11872 (2025).

• Pecher, Branislav, 等. "Comparing specialised small and general large language models on text classification: 100 labelled samples to achieve break-even performance", (2026).

• Kaplan, Jared, 等. "Scaling Laws for Neural Language Models." arXiv 预印本 arXiv:2001.08361 (2020).