Grafana Applies SLOs and Error Budgets to AI Agent Behaviour

Grafana 将 SLOs 和错误预算应用于 AI 代理行为 - InfoQ

InfoQ 首页 News Grafana 将 SLOs 和错误预算应用于 AI 代理行为

DevOps

扩展 OpenTelemetry：管理收集器、配置和成本（11 月 19 日网络研讨会）

Grafana 将 SLOs 和错误预算应用于 AI 代理行为

2026 年 10 月 16 日 5 分钟阅读

作者：

• Craig Risi

#### 关注我们

YouTube

232K 粉丝

LinkedIn

26K 粉丝

Instagram

新

RSS

19K 读者

X

57.1k 粉丝

Facebook

21K 点赞

Bluesky

收听本文 -

0:00

音频准备就绪

您的浏览器不支持音频元素。

正常

1.25x

1.5x

喜欢

新下拉阅读列表

• 阅读列表

Grafana Labs 正在为现代软件中一个相对陌生的问题提出一种熟悉的可靠性工程方法：如何衡量 AI 代理是否真正表现出良好的行为。在最近的一篇文章中，该公司描述了使用评估、服务级别目标（SLOs）和错误预算，将幻觉、任务完成度、毒性、成本等行为转化为可随时间监控的可衡量目标。

这一思路解决了传统应用程序可观测性的根本局限性。传统指标可以告诉工程师代理响应迅速、未遇到技术错误且消耗了特定数量的令牌，但这些指标未必能表明其回答是否正确、是否基于可用信息或是否对用户有用。Grafana 的方法是直接评估代理行为本身，并将结果转化为可与 SLO 对比的 SLI（服务级别指标）。

第一步是进行评估。评估会检查代理交互并判断其是否满足特定行为标准。Grafana 提供了多个示例，包括响应是否基于提供的上下文、是否完成用户请求、是否包含有毒内容、是否泄露个人信息或是否屈服于提示注入。评估可以使用另一个语言模型作为裁判，但在某些行为可通过正则表达式等确定性检查识别时，也可采用此类方法。

这与试图创建单一的“代理质量评分”有重要区别。Grafana 认为质量是多维的：一个代理可能根基扎实但成本高昂、乐于助人但偶尔有毒、准确但速度慢。将这些视为独立的测量指标，使团队能够为特定应用程序中重要的行为设定不同的目标，而不是将关键失败隐藏在聚合评分中。

一旦行为可以被衡量，传统的 SRE（站点可靠性工程）概念即可应用。Grafana 举了一个例子：设定一个 SLO，要求 30 天内 95% 的对话被判定为完成。剩余的 5% 就成为错误预算：团队明确决定在该时间段内可以容忍的不可接受行为的额度。

这种方法对错误预算百分比本身的影响较小，但对它所创建的决策模型具有重要意义。当剩余的错误预算充足时，团队可以尝试调整提示语、模型或代理行为。随着预算逐渐消耗，优先级会转向提升质量而非引入新变更。这在概念上与SRE团队长期以来用于平衡可靠性与开发速度的权衡方式一致。Grafana现有的SLO工具同样通过SLI（服务级别指标）、目标值和时间窗口定义SLO，错误预算则通过目标值与100%之间的差距计算得出。

这种方法在代理行为发生渐进式变化而非突然失效时尤为有用。传统告警可能识别出失败请求数的突然激增，但代理在回答逐渐变得不那么有用时仍可能继续成功响应。模型变更、提示语修改、检索方式调整或用户行为变化，都可能导致质量每天下降几个百分点。

Grafana认为，监控错误预算消耗情况可以使这种渐变趋势变得可见。单次糟糕的交互可能对30天目标影响不大，但持续下降会逐步消耗可用预算。这与传统基础设施监控发出的信号不同：关注点不在于某次执行是否失败，而在于系统的整体行为是否偏离了约定的可靠性范围。

最具挑战的部分可能不是创建SLO本身，而是确定什么构成可接受的行为。与有数十年运营经验支撑的可用性目标不同，关于代理应达到85%、95%还是99%的完成度或相关性，业界尚未形成明确共识。

Grafana的解决方案是通过评估建立基准线，然后利用历史结果推荐合适的SLO目标。随着代理逐渐成熟，目标值也可以进一步收紧。这一概念也反映了可观测性需要覆盖范围的更广泛转变。Grafana自身的代理可观测性工作正是源于监控Grafana Assistant时遇到的挑战：随着提示语、模型和工具的变更，传统监控变得不再充分。在社区讨论中，Grafana工程师区分了离线评估（用于验证变更是否符合已知场景）和在线评估（用于评估实际生产交互中的行为表现）。

传统可观测性通常关注系统是否可用以及是否在技术限制范围内运行。AI系统引入了另一个维度：系统决策和输出是否保持在可接受的行为边界内。这在评估、可观测性和工程变更之间形成了反馈循环，这种循环更接近持续质量测量，而非传统的应用监控。

还有一个重要限制需要考虑。SLO的价值取决于其底层度量指标的准确性。如果LLM评估器持续错误分类响应，得出的错误预算可能会产生误导性的精确度。同样，设计不佳的评估可能奖励代理生成在技术上满足某个标准但未能满足用户实际意图的输出。

这意味着组织仍然需要具有代表性的评估数据集、对可接受行为的明确定义、在可能的情况下实施适当的确定性检查、对模糊案例进行人工审核，以及持续验证评估者本身的质量。SLO 提供了治理机制，但它本身并不会使底层的质量测量变得固有正确。

SLO 传统上为工程团队提供了一种通用语言，用于在可靠性和变更之间取得平衡：定义关键指标、进行测量、设定可接受的阈值，并利用剩余的错误预算来指导决策。

将相同的思路应用于 AI 代理，将该模型从系统可靠性扩展到行为可靠性。一个代理可能在技术上可用，但可能因为其答案的准确性逐渐下降、缺乏依据、成本高昂或存在安全隐患而操作不可靠。将这些行为视为可衡量的服务目标，为工程团队提供了一种检测性能退化并决定何时应从实验转向修复的机制。

因此，其意义不仅在于 Grafana 增加了另一个 AI 指标，更在于一个成熟的 SRE 原则正在被适配到一个系统可能在持续降低可信度的同时仍保持“在线”的环境中。对于将 AI 代理投入生产环境的组织而言，这种区分可能成为 AI 可观测性中更为重要的组成部分。

Grafana 的 SLO 方法是业界更广泛努力的一部分，旨在使代理行为变得可衡量，尽管其他组织正从不同方向解决这一问题。例如，Anthropic 已经为代理开发了更正式的评估实践，使用定义的任务、重复试验和多名评分者来衡量代理是否能持续实现其预期结果。其区分 pass@k（衡量代理在多次尝试中至少成功一次）和 pass^k（衡量代理在所有尝试中都持续成功）的概念，对于生产环境中可靠性比最终找到答案更重要的代理尤其相关。

OpenTelemetry 则在另一个层面处理这一问题，致力于制定标准化的代理遥测语义规范，使追踪、指标和日志能够为跨框架和供应商的代理行为评估提供一致的基础。这些方法共同说明了一个正在形成的模式：评估确定代理行为是否正确，可观测性提供证据，而 SLO 则提供判断该行为是否可接受的操作阈值。

关于作者

作者信息

#### Craig Risi

显示更多

显示更少

#### 本内容属于 DevOps 主题

##### 相关主题：

• DevOps
• AI、机器学习与数据工程
• AIOps
• 代理 AI 架构
• 可观测性
• Grafana
• AI 开发
• 相关编辑内容
• 相关赞助商
• 相关赞助商 2026 年 11 月 19 日，东部时间上午 12 点

扩展 OpenTelemetry：管理收集器、配置和成本 由 Datadog 的高级产品市场经理 David Iparraguirre 和产品经理 Jessica Yang 演讲

InfoQ 新闻通讯

每周五汇总 InfoQ 上一周的内容，每 Tuesday 发送。加入超过 250,000 名高级开发者的社区。[查看示例](链接)

我们保护您的隐私。