What is an AI agent harness?

什么是 AI 代理框架？| Databricks 博客

跳过主要内容

数据 + AI 基础

什么是 AI 代理框架？

作者：Databricks 团队

摘要

• AI 代理框架将模型推理转化为可靠的操作。它提供了代理完成现实世界任务所需的工具、记忆、执行环境和保障措施。

• 框架的设计直接影响代理的性能。良好的上下文管理、协调和验证可能与底层模型一样重要。

• 共享的框架基础设施对于扩展企业代理至关重要。集中治理、评估和可观测性有助于防止代理泛滥并保持系统可靠。

AI 代理框架是围绕大型语言模型（LLM）的软件基础设施，使模型能够执行任务，而不仅仅是响应提示。模型通过问题推理并决定下一步该做什么。框架将其连接到执行这些操作所需的工具、系统、记忆和执行环境。

代理 = 模型 + 框架

将模型视为生成推理和决策的“大脑”。框架是围绕它的一切，帮助代理安全可靠地运行，包括：

• 工具：API、代码执行、搜索、数据库和业务应用

• 记忆：先前的上下文、用户偏好和工作流历史

• 工作区：代理可以访问的文件、数据、环境和系统

• 保障措施：权限、政策、审批和监控

没有框架，模型可以回答问题，但无法可靠地运行代码、调用 API、访问文件、记住之前的工作或独立完成多步骤的工作流。

在本指南中，我们将介绍 AI 代理框架的核心组成部分，解释为什么框架影响代理性能，说明生产代理系统是如何构建的，以及为什么框架工程正在成为一项独立的学科。

考虑一个负责修复漏洞的编码代理。模型提出一个代码更改。框架在隔离的沙箱中运行代码，捕获测试结果并将其返回给模型。如果测试失败，模型会分析问题所在并再次尝试。框架管理与底层系统的交互，而模型专注于解决问题。

代理、模型和框架：它们有什么区别？

“代理”、“模型”和“框架”经常被互换使用，但它们指的是系统中的不同部分。明确它们之间的区别有助于团队了解他们实际上在构建、调试或改进的内容。

组件

功能

通俗类比

模型

推理、预测并生成文本或其他输出

系统的“大脑”

框架

执行操作、管理内存、运行工具并执行规则

大脑的“身体”和工作空间

代理

结合这两者的完整工作系统

一个可以思考和行动的工人

每个生产框架都需要的八个构建模块

大多数操作框架都是由相同的基础设施组件构建而成，每个组件都旨在解决原始模型的不同限制。

系统提示

系统提示是每次模型运行时都会收到的一组固定指令，告诉它自己是谁、试图完成什么任务以及必须遵守哪些规则。系统提示在任何用户输入到达之前就塑造了代理的行为、性格和限制。编写不当的提示是导致行为不一致或不可预测的最常见原因之一。

工具和工具执行

工具是模型可以调用的预构建函数，用于与外部系统进行交互，例如搜索网络、查询数据库、发送电子邮件、运行代码或调用API。模型决定使用哪个工具以及何时使用。框架是实际运行工具并将结果返回给模型的部分。

开发人员正在远离大量狭窄定义的工具集合，而是赋予代理更通用的能力：编写和执行代码的能力。这使模型能够动态构建工作流，而不是依赖于一组固定的预定义操作。

沙箱和执行环境

沙箱是一个隔离的工作空间，代理可以在其中运行代码或执行操作，而不会影响环境之外的任何内容。这很重要，因为在真实系统上直接运行代理生成的代码是有风险的。

通过隔离环境，沙箱允许代理安全地进行实验，并为团队提供一个可以监控、重置或干净关闭的工作空间。它们还使得在大规模下并行运行多个代理成为可能。

文件系统和持久存储

文件系统为代理提供了一个可以读取和写入文件（如代码、笔记、计划和中间工作）的地方，这些文件在会话之间持续存在。

持久存储使代理能够在长时间运行的任务中积累进展，并通过共享文件的工作空间（而不仅仅是聊天消息）与人类或其他代理进行协作。

内存和上下文管理

基础模型无法在当前上下文窗口之外保留内存。框架管理任务内部和跨会话的内存。随着对话变长，框架决定哪些内容保持活跃，哪些内容被总结，这个过程称为上下文压缩。

在实际应用中，这意味着需要裁剪对话中较旧的部分，以防止随着上下文的增长，模型变得不堪重负。在会话之间，控制装置会存储和检索相关的历史记录。这使得代理能够在了解自己已经完成的工作的基础上继续执行任务。

反馈循环与自我验证

优秀的控制装置不仅仅是让模型执行操作，它们还会检查工作成果。每次执行操作后，控制装置可以运行测试、检查结果，或提示模型在继续之前审查自己的输出。

这些反馈循环使得代理能够通过反复尝试任务、检查结果、自动发现错误并纠正方向，可靠地处理长期或复杂的工作。

安全防护与人工介入控制

安全防护是内置在控制装置中的规则，用于阻止不安全或未经批准的操作。例如，在代理删除文件、发送客户信息或进行购买之前，可能需要人工批准。

一种常见的安全防护是人工介入控制，即在某些操作执行之前，由人工进行审核或批准。在企业环境中，这些批准检查点通常是强制性的。

可观察性与日志记录

可观察性意味着可以通过日志、追踪和仪表板查看代理做了什么、为什么做出每个决定以及哪里出了问题。对于开发人员来说，可观察性有助于诊断和调试代理的行为。对于企业团队而言，这通常是合规性要求。受监管的行业需要审计追踪，以明确代理做了什么以及是在谁的授权下进行的。

在大规模应用中，可观察性还为评估基础设施提供支持——这些系统可以持续衡量代理在数千次运行中是否表现正确，而不仅仅是演示中。

相同的模型，更好的控制装置，更好的结果

当模型在原始能力上趋于一致时，控制装置在决定性能方面的作用日益凸显。内存、工具编排、反馈循环和安全防护推动了可靠性。在公共基准测试中，相同的模型根据控制装置的构建方式，得分可能显著提高或降低。对于许多以工作流程为主的任务，围绕中等能力模型的强控制装置可能比围绕更强模型的弱控制装置表现更好。

这种影响是可以衡量的。当 Databricks 将 GPT-5.5 与专为复杂、多部分企业文档任务设计的 OfficeQA Pro Agent Harness 配合使用时，其得分从 GPT-5.4 的 36.10% 提高到了 52.63%，几乎将错误减少了一半。模型确实有所改进，但正是控制装置使得这种改进转化为可靠的生产性能。AI 代理评估框架帮助团队准确衡量这一点：即控制装置的设计是否将模型的能力转化为一致、可信的结果。

提示工程、上下文工程与控制装置工程

控制装置工程是开发人员与 AI 系统协作方式更广泛转变的最新阶段。随着模型能力的增强，关注点逐渐向外扩展。它从编写更好的提示，转向控制模型所看到的信息，再到围绕模型设计整个系统。

| 学科 | 关注点 | 主要成果 | 典型应用 | |--------------|--------------------------------|----------------------|----------------------| | 提示工程 | 编写输入以获得更好的响应 | 精心设计的提示 | 早期 LLM 应用 | | 上下文工程 | 筛选模型看到的信息及其时间 | 检索管道、内存设计 | RAG 时代应用 | | 控制装置工程 | 设计围绕模型的整个系统 | 控制装置 | 企业级 AI 应用 |

围绕模型构建完整系统 — 工具、沙箱、循环、防护措施

系统本身

智能体系统和自主工作流

提示工程和上下文工程都属于系统工程的一部分。系统是围绕模型构建的；提示和上下文是该系统的一部分。

报告

企业智能体的AI操作手册

立即阅读

生产环境中AI智能体系统常见的失败模式

系统功能强大，但容易出错。大多数操作智能体的失败并非来自模型本身，而是来自系统。这些是团队在实际系统中遇到的最常见问题：

• 上下文退化。随着对话历史的增长，模型的推理质量下降。如果没有策略来修剪或总结较旧的上下文，长期任务的性能通常会崩溃。

• 工具过载。一次性给模型太多工具会增加混淆并减慢决策过程，甚至在工作开始之前。

• 工具连接脆弱。对工具描述或调用方式的小幅更改可能导致模型错误使用工具，从而导致难以诊断的静默故障。

• 延迟。多个步骤的智能体在进行多次工具调用时可能需要10秒或更长时间来响应，从而造成令人沮丧的用户体验。

• 无关检索。当系统从记忆或搜索系统中拉取错误信息时，模型可能会自信地生成错误答案。

• 验证薄弱。没有测试循环或自检，智能体可能会过早停止或在未完成的工作上宣布成功。

• 缺少防护措施。智能体在没有充分监督或人工批准的情况下执行不可逆的操作，如发送消息、删除数据或进行购买。

AI系统如何融入企业AI战略

大多数公司并不是在构建一个单一的AI智能体。他们正在构建数十个智能体，分布在不同的团队、工作流程和基础模型中。如果没有一致的系统设计方法，这很快会导致智能体的蔓延：彼此不连贯的智能体，没有一个团队能够可靠地治理、评估或改进它们。

智能体的蔓延导致企业控制问题

随着智能体越来越接近生产工作流程，团队需要对智能体可以访问的内容、可以执行的操作以及其输出如何被评估进行集中控制。他们还需要可审计性、可观测性以及在不重建围绕它们的系统的情况下，灵活地更换底层模型的能力。

共享的系统基础设施使智能体更容易治理

像Databricks Agent Bricks这样的平台就是围绕这种控制平面方法设计的。而不是每个团队都构建和维护自己的系统基础设施，组织可以获得一个共享的层，用于构建、部署、治理和评估基于企业数据的智能体。

治理通过Unity Catalog强制执行，而可观测性和评估则通过MLflow进行管理。Agent Bricks还支持来自OpenAI、Anthropic、Google和开源生态系统中的模型，帮助团队减少对任何单一供应商的依赖，同时根据他们自己的数据评估性能。

随着 AI 模型在规划、多步骤推理和错误纠正方面变得越来越好，目前由框架处理的一些工作可能会更接近模型本身。模型将变得更加擅长保持任务专注、验证自身工作并在不依赖大量外部协调的情况下从错误中恢复。

框架工程不太可能消失。执行环境、工具编排、防护措施、可观测性以及反馈循环仍然决定了模型是否能在真实系统中可靠运行。更好的工具、更整洁的工作空间和更强的防护措施使每个模型都更加有用，无论模型自身能力如何提升。

两个新兴的想法有助于说明该领域可能的发展方向：

• 一次性框架。这些轻量级、任务特定的框架是为单个工作流创建并在之后丢弃，而不是作为长期运行的基础设施来操作。随着执行环境的部署变得更快且成本更低，这种方法正变得越来越实用。

• 自然语言代理框架（NLAHs）。工程师不再通过代码来配置框架，而是使用普通的语言指令来描述代理应该如何行为。一个共享的运行时环境会解释并执行这些指令，从而降低谁可以在不同项目中构建、修改和重用框架的门槛。

模型包含智能。框架将这种智能转化为可靠的工作。只要这一点仍然成立，框架设计就仍然重要。

常见问题

AI 代理和 AI 框架之间的区别是什么？AI 代理是由模型和框架共同组成的完整工作系统。框架是提供工具、内存、防护措施和工作流控制的执行层。你与代理进行交互，而框架使其正常运行。

框架工程和提示工程之间的区别是什么？提示工程专注于为模型创建更好的输入。框架工程则专注于围绕它设计完整的系统，包括工具、执行环境、安全控制和反馈循环。提示工程是更大框架架构的一部分。

AI 代理框架的核心组件是什么？大多数生产框架包括系统提示、工具、沙箱、内存管理、反馈循环、防护措施和可观测性。每个组件都解决了原始模型的不同限制。

为什么框架比模型更重要？随着 AI 模型变得越来越强大，框架质量在塑造实际性能方面的作用越来越重要。强大的框架通过更好的内存管理、工具编排、验证和防护措施提高可靠性。在许多实际系统中，如果基础设施仍然不稳定，仅升级模型所带来的增益会较小。

企业如何在大规模上治理 AI 代理框架？有效的企业治理需要对数据访问、评估系统、可审计性、成本控制以及对多个底层模型的支持进行集中控制。像 Databricks Agent Bricks 这样的平台通过 Unity Catalog 和 MLflow 提供的共享治理、可观测性和评估基础设施来解决这些挑战。

从 AI 模型到 AI 系统

Harness 是通过提供工具、记忆、防护措施和反馈循环，将语言模型转化为实用代理的关键部分，从而使可靠的工作成为可能。强大的 Harness 能使普通的模型变得有用，而薄弱的 Harness 则会浪费最好的模型。随着 AI 代理进入生产环境，Harness 的设计已成为工程工作的主要部分，也是价值所在。

了解 Databricks Agent Bricks 如何帮助您基于自己的数据构建、治理并持续改进生产级 AI 代理。

订阅以获取最新文章

订阅我们的博客，将最新文章直接发送到您的邮箱。

注册

查看所有博客

slice-start id="_gatsby-scripts-1"

slice-end id="_gatsby-scripts-1"