How FactSet cut model training and deployment from days to hours with Databricks AI Runtime

FactSet如何通过Databricks AI Runtime将模型训练和部署时间从数天缩短至数小时 | Databricks博客

跳至主要内容

客户案例

2026年10月14日

FactSet如何通过Databricks AI Runtime将模型训练和部署时间从数天缩短至数小时

FactSet利用微调的开源模型构建“文本到公式（Text To Formula, TTF）”系统，将投资专业人士的自然语言请求转换为FactSet查询语言（FQL），并随着新数据的持续接入，每数周进行一次模型重训练。

作者：Nikhil Hiriyur Sunderraj、Dakshina Murthy Malladi、Nikitha Goram、Ryan Roser、Kate Stepp、Julia Powell、Tejas Sundaresan和Lucas de Paula

摘要

• FactSet的文本到公式（TTF）系统将投资专业人士的自然语言请求转换为FactSet查询语言（FQL）公式。在初始的检索增强生成（RAG）方法遇到复杂公式质量瓶颈后，FactSet将微调的开源模型作为架构核心。

• 随着新数据的持续接入，团队每两周至三周重新训练模型，使基础设施搭建和部署速度成为开发周期的重要组成部分。

• 借助Databricks AI Runtime，FactSet可为每个工作负载选择无服务器GPU计算，并与现有湖仓一体（Lakehouse）工作流并行训练，将模型搭建、训练和部署时间从数天缩短至数小时。

FactSet的文本到公式（TTF）系统承担着看似简单实则极具挑战的任务：将投资专业人士的自然语言请求转换为正确的FactSet查询语言（FQL）公式。

FactSet最初围绕检索增强生成（RAG）构建TTF系统，通过检索找到相关示例和信息来处理请求。但随着使用量增长，查询变得越来越专业，公式也日益复杂，该方法遇到了质量瓶颈。FactSet开始在其复合AI架构中引入微调的开源模型，使团队能够基于FQL的结构和模式进行训练，而非主要依赖推理时的检索。在早期TTF工作中，FactSet发现引入微调模型可将端到端延迟降低约60%。

随着系统演进，微调的作用也不断深化。FactSet积累了更多训练数据，开始定期更新模型，将原本实验性的流程转变为TTF开发的常规环节。如今，团队每两周至三周进行一次模型微调。

当微调成为发布周期的一部分

每数周进行一次训练改变了基础设施需求。为偶尔的实验准备环境和配置GPU计算可能尚可管理。但每次新数据或新模型准备就绪时重复这些工作，会直接增加开发周期的负担。

模型需求也可能在不同实验间发生变化。FactSet曾使用基于Llama的模型，并持续评估更新的开源模型。不同模型、提示长度和输出特性可能需要不同的计算配置，因此将训练环境绑定到固定GPU设置会降低团队实验时的适应性。

FactSet利用Databricks AI Runtime在无服务器GPU基础设施上运行这些微调工作负载。工程师可根据特定训练运行的需求选择计算资源，无需预先配置底层GPU环境。

将训练保持在开发循环中

TTF的训练流程与数据、实验、模型管理和治理工作已运行在Databricks平台上并行进行。FactSet使用MLflow来跟踪模型开发和实验，同时其底层数据仍在其现有的Lakehouse环境中受控管理。

图1. FactSet的文本到公式（Text-to-Formula）工作流程，从自然语言请求和专家审核的训练数据，到在Databricks上进行模型微调、注册和部署。

通过AI Runtime运行微调可将GPU训练保留在该工作流程中。工程师可以使用受控数据进行训练，跟踪生成的模型产物，并在无需单独维护用于微调的GPU堆栈的情况下推进部署。对FactSet而言，这将自定义TTF模型的搭建、训练和部署所需时间从数天缩短至数小时。

Databricks的AI Runtime极大地简化了自定义文本到公式（TTF）模型的训练过程。无需基础设施配置或等待时间，我们能轻松根据提示规模和输出令牌生成量选择合适的计算资源。这使我们能够快速推进工作，保持Lakehouse工作流程，并交付一个具有完整治理的高质量模型，将模型搭建、训练和部署所需时间从数天缩短至数小时。——FactSet Research Systems, Inc.首席机器学习工程师Nikhil Sunderraj

为持续变化的模型构建系统

从TTF的演进之初，模型变更的能力就已融入其中。随着使用量增加和公式复杂度提升，高级RAG（特别是完全依赖外部托管模型的方案）在准确性和延迟方面逐渐成为瓶颈。RAG在系统遇到更复杂公式前表现良好，而微调的开源模型为FactSet提供了另一种提升质量和延迟的途径。如今随着新模型的不断出现，团队可以将新模型与工作负载进行对比评估，而非将当前模型选择视为永久方案。

TTF本身正变得越来越专业化。随着FactSet积累更多数据，团队正在探索更多微调模型用于查询分解、组件提取和库识别等任务。这为每个工作流程环节选择最适合的模型创造了更多机会，但也使快速、可重复的训练变得更为关键。

当模型变更无需重建围绕它的训练环境时，测试将变得更容易。通过AI Runtime按需获取GPU计算资源，工程工作重点转向真正影响TTF的决策：使用哪个模型、如何训练它，以及生成的版本是否能提升应用效果。

此外，微调流水线基于Databricks Lakeflow Jobs和Pipelines构建，作为即插即用的可复用框架——设计为只需最小设置成本即可跨不同TTF任务和其他团队轻松采用，提供标准化基础以减少入职摩擦并加速集成。

使模型选择更具可行性

开源模型发展迅速。今天提供质量、延迟和成本最佳平衡的模型，可能在六个月后就不再是团队需要的模型。因此，保持模型选择灵活性不仅需要能够下载新权重的能力，其周边的训练和部署工作流也必须持续跟进。

FactSet 通过 TTF 的实际应用展示了其在生产环境中的效果。随着数据和应用的不断发展，团队可以持续测试新的开源模型，同时 AI Runtime 在现有的 Databricks 工作流中提供了无服务器 GPU 基础设施。FactSet 不再需要耗费数天时间进行每次迭代的部署、训练和部署，而是可以将这一周期缩短至数小时。

对于需要每隔几周重新训练一次的系统而言，这种效率提升会不断累积。新数据可以更快地应用于新模型，工程师也能够将更多时间投入到改进 TTF 本身，而非准备训练所需的基础设施。

将最新文章发送到您的邮箱

订阅我们的博客，即可将最新文章发送到您的邮箱。

立即订阅

查看所有博客

slice-start id="_gatsby-scripts-1"

slice-end id="_gatsby-scripts-1"