CoreWeave Forge: Turn AI Iteration Into Compounding Improvement

介绍 CoreWeave Forge | CoreWeave 博客

发布于

2026年9月30日

9

分钟阅读

CoreWeave Forge：将 AI 迭代转化为复利式改进

CoreWeave Forge 通过实现持续改进，加速最佳代理和模型进入生产环境。

作者

Chen Goldberg

已复制

在 Fully Connected 2026 上，我们宣布推出 CoreWeave Forge，它连接并加速 AI 改进生命周期的每个阶段。它是一个用于在生产环境中部署模型、观察生产对话、整理数据、构建下一个版本并在部署到生产环境之前评估最终产品的单一开发环境。保持模型准确性和代理可靠性意味着在每次部署后重复这个循环。一些组织已经在断开连接的系统和手动工作流程的拼凑中运行这个循环，手动将各个阶段连接在一起。其他组织才刚刚开始正式化这个过程。不管怎样，今天的 AI 团队经常在 AI 循环的多样化工具之间停滞不前，或在交接过程中迷失方向。

CoreWeave Forge 改变了这一切。它创建了一个完全连接的改进循环，减少了各阶段之间的人工交接，并对您已经运行的模型、框架或云保持开放。通过紧密连接、简化的循环，您从生产问题到验证修复的时间在每次循环中都会缩短，从而加速进展并减少从第一个代理到最佳代理的时间。您部署得越多，改进得越快。这就是 CoreWeave Forge 的良性循环。

CoreWeave Forge 治愈生产疲劳

我们设计 CoreWeave Forge 是为了解决 AI 生产日益增加的操作复杂性。几年前，仅仅将模型部署到生产环境就是一个团队庆祝的重大里程碑。今天，首次部署仍然是一个里程碑，但它只是开始。一旦团队部署了第一个代理，艰难的问题就开始了。我们如何保持输出的准确性和客户满意度？而保持这种状态的成本又会是多少？

经过几次迭代后，兴奋感逐渐消退，改进的影响变得越来越难以看到，甚至不知道应该尝试哪些改进。训练模型并了解“良好”外观的 AI 工程师将模型交给负责生产环境的应用程序或 SRE 团队，从那一刻起，这两个团队开始关注不同的系统。应用程序追踪信息出现在为正常运行时间构建的可观测性仪表板中，这告诉值班工程师服务是健康的，但对研究团队来说，它没有提供任何关于答案质量和用户情绪的信息。之前准确的评估套件因为生产端没有人负责根据不断变化的用户行为和流量更新它而出现偏差。研究端的任何人都看不到流量。研究人员、AI 工程师和业务负责人在准备另一次发布时，又回到了各自的仪表板。随着技术环境的变化，每个系统都需要持续维护。

随着时间的推移，这些差距使得将生产反馈转化为更高质量、更具成本效益和性能更好的 AI 应用变得越来越困难。团队花费大量时间维护工具和协调交接，留给改进应用本身的时间越来越少。

问题不是缺乏人才或基础设施。这是一个断开的 AI 改进循环。

我们设计 CoreWeave Forge 的目标是连接运行、观测、整理、改进和评估 AI 工作负载的系统，并让这些系统易于使用。这些阶段遵循大多数团队熟悉的循环模式：在生产环境中运行模型或代理，观察其行为，将信号转化为数据，改进系统，验证新版本的提升效果，然后部署上线。这就是当前 AI 开发的一般模板。

CoreWeave Forge 的设计不仅连接了 AI 循环，还针对每个关键阶段的具体挑战提供解决方案：

• 运行：在生产环境中部署模型和代理，生成真实世界的信号。机会：运行正确的模型、合适的工具并捕获关键信号。
• 观测：从底层硬件到代理，捕获追踪信息、指标、工具使用情况和行为反馈，以理解性能表现。机会：明确需要监控和检查的内容，使团队能够识别实际问题并找到改进方向。
• 整理：将生产信号转化为高价值数据集，并持续更新评估套件。机会：通过 AI 支持和人工参与的方式整理数据与洞察，确保改进数据始终与当前工作负载模式和机会保持同步。
• 改进：利用整理后的数据优化代理，调整模型，改进工具，通过强化学习、监督微调、模型蒸馏等多种技术优化模型，实现更高质量、更快性能和更低成本。机会：使用合适的改进方案实现预期结果，并确保整理后的示例附带解释其来源的血缘信息。
• 评估：在部署前后，根据可重复的质量标准衡量新模型和代理的表现。机会：基于明确标准定义和理解改进效果，而非仅依赖主观判断推动变更。

AI 循环中的挑战可能令人望而生畏且耗时，但并非无解。从今天起，已有解决方案。它确保这些阶段相互连接、开放且易于理解。像 MasterClass 和 Canva 这样的客户已经开始使用 Forge 来完成他们的 AI 循环。

CoreWeave Forge 连接整个 AI 生命周期

CoreWeave Forge 在专为 AI 构建的云平台上连接 AI 循环的所有阶段，创建一个统一的环境，使团队能够更快地从生产洞察过渡到生产改进：

新功能：

• CoreWeave Agent Lens（新服务） 将生产代理的可观测性转化为持续改进和可理解的洞察。每一步操作、决策和工具调用均可端到端追踪，支持以对话形式或完整技术细节呈现。通过人工监督和整理实时流量，优先识别早期故障并提供修复建议。Agent Lens 将故障检测率提升 20%，且修复成本降低 50%。
• CoreWeave ARIA（现已全面开放） 帮助您在 AI 循环中学习、研究、编码和迭代，分析运行结果、提出实验建议、推荐代码修改（并存储到 GitHub），并带回可操作的证据。ARIA 成为使整个循环对专家和非专家 AI 用户都更易理解的关键组件。

• CoreWeave 沙盒（现已正式发布）允许您在隔离的 CPU 或 GPU 执行环境中运行代理、工具调用、强化学习（RL）和评估，可在无服务器基础设施或您已使用的训练基础设施上运行。

• 模型蒸馏（新服务）基于您已在生产环境中验证的任务，使用大型模型的输出训练一个更小的、开放权重的模型，与您当前运行的模型进行直接对比评分，并为您提供安全迁移流量的证据。

• CoreWeave 笔记本（新服务）通过快速且功能强大的托管 Python 笔记本，让您与团队进行实验和协作。可按模型和代理分别共享评估结果和自定义分析。

此外，还包括运行推理的最佳场所以及连接所有组件的系统记录：

• CoreWeave 推理使您可以通过无服务器推理访问领先的开放权重模型，或在专用且完全隔离的基础设施上运行大型工作负载的专用推理。

• Weights & Biases 模型通过实验跟踪、可扩展的超参数扫描、交互式分析和自动化工作流程，加速训练和训练后的模型开发。与 CoreWeave ARIA 集成，支持自动研究，根据检测到的信号自主改进模型。

• 训练后处理利用您自己的生产信号提升模型质量并降低延迟和成本，无需训练集群。无服务器微调（Serverless SFT）和无服务器强化学习（Serverless RL）使您能够使用自己的训练方案进行实验。

• CoreWeave 注册表：在一个系统中存储运行记录、指标、超参数和代理追踪。您不再需要在多个碎片化系统中搜索数据。您还可以轻松追踪模型更改和依赖项的谱系。

CoreWeave Forge 为从首个代理到最佳代理的高效 AI 开发提供持久的记录系统。每个数据集、评估、模型版本、追踪和部署始终保持连接。现在团队可以了解发生了哪些变化、变化的原因以及这些变化是否真正提升了结果。

按您的方式运行推理

从部署到评估的每个阶段都依赖于推理。但您对推理解决方案的需求取决于您正在构建的内容以及每个工作负载的要求。CoreWeave 推理为您提供选择合适方法的灵活性。

使用无服务器推理，您可以使用开源模型目录开始构建，同时 CoreWeave 管理基础设施。使用专用推理，您可以在隔离的计算资源上运行模型，并控制模型权重、部署设置和 GPU 资源。随着需求的变化，您可以在两者之间切换而无需重新平台化。

团队在生产环境中同时使用这两种方法。Cline 利用无服务器推理中的开源模型，为其超过 1100 万开发者信任的开源、开放选择代码代理提供动力。AI 写作助手 Grammarly 使用专用推理高效扩展，具备明确的 GPU 选择和完全托管的操作。

推理不仅仅是提供静态模型。当你通过强化学习持续改进模型时，训练和推理之间的界限开始变得模糊。推理本身成为训练循环的一部分：策略生成执行，训练产生更新的权重，这些权重返回到服务中，使下一轮执行能够使用最新的策略。保持这一循环运转需要能够快速部署更新权重的基础设施。

今天，我们推出专用推理与强化学习执行（新服务），该服务基于与CoreWeave推理相同的NVIDIA Dynamo基础架构。强化学习执行能够以最小的停机时间将更新的检查点部署到实时环境中。如果你正在运行自己的强化学习训练循环，CoreWeave会热加载这些检查点，使你能够使用最新策略生成执行，并保持下一轮训练的持续进行。我们与NVIDIA和you.com的工程团队合作，通过NeMo gym中的强化学习执行，在CoreWeave上对NVIDIA Nemotron 3.5 Lightning进行微调，使用you.com的网络搜索API，使模型重新加载延迟相比基准提升了15倍。

合作伙伴帮助闭合循环

Forge连接了AI循环的五个阶段。但你的循环不会止步于我们的边缘；它会延伸到你团队已经依赖的可观测性平台、数据仓库和安全堆栈，这些工具并非我们开发，也不会要求你替换。

CoreWeave合作伙伴网络的设计确保你能够按照自己的条件运营AI应用。该网络涵盖基础设施、数据服务、ISV、模型和推理等多个领域的合作伙伴。每个解决方案都在CoreWeave的真实生产环境中经过测试和验证后才会提供给你。

这一原则也延伸到你当前运行的工具之外：一个无法搜索实时网络的代理会被限制在训练时已知的信息范围内进行推理。这就是为什么CoreWeave合作伙伴网络正在扩展到你的代理调用的工具，首先从搜索开始。Exa、Parallel Web Systems和You.com加入成为合作伙伴，为基于CoreWeave构建的代理提供搜索层，通过单一集成即可访问，而无需与每个工具单独签订合同。

CoreWeave Forge 适配你的基础设施

尽管CoreWeave Forge在CoreWeave Cloud上运行效果最佳，但我们认识到你并非所有工作负载都在同一地点运行。你可能在其他云平台、自有私有数据中心以及广泛的计算足迹上运行工作负载。

使用CoreWeave Forge，你可以自由选择任何模型、框架或云平台进行构建。它运行在你的工作负载所在的位置。你生成的改进数据以可移植的形式保留在你手中，接口保持开放。经过筛选的数据集和评估套件将成为你的竞争优势。你可以选择在任何地方使用它们：不仅通过开放接口和标准，还可以通过我们的合作伙伴。你的数据。你的技术栈。你的AI。

立即在CoreWeave Forge上加速构建

我们于 Fully Connected 2026 发布 CoreWeave Forge，因为我们相信人工智能的未来属于全连接系统，而非断开的工作流程。当今进展最快的团队不仅部署模型，更持续优化模型。CoreWeave Forge 通过将运行、观察、整理、优化和评估环节紧密衔接，使复合改进成为可能，让您的团队加速前进。CoreWeave Forge 与您现有的基础设施和工具无缝兼容，因此无需承担迁移成本、避免碎片化工作流程或系统间的手动连接。

使用 CoreWeave Forge 时，每次部署都会为下一次构建提供支持。从首个代理到最佳代理，当整个 AI 循环保持连接，每个版本都会比上一版本更进一步，这些进步将随着时间不断累积。

所有人都可以立即开始使用 CoreWeave Forge。现在可免费试用 CoreWeave Forge Pro 30 天。跨所有产品线的真信用额度，让您能够端到端运行完整的 AI 循环，使每个版本在正式提交前即可实现复合优化。立即开启免费试用。这就是我们创建 CoreWeave Forge 的原因。现在轮到您来构建下一个未来。

立即在 CoreWeave Forge 上构建 探索 CoreWeave Forge 借助 CoreWeave ARENA 的专家团队

CoreWeave Forge 保持您的 AI 循环连接，可自由基于任何模型、框架或云平台构建，因此每个版本都会在前一版本基础上实现复合优化。

分享本文： /