meng shao(@shao__meng)

LiteLLM 推出了 Agent 轨迹智能分析功能「LiteLLM Lens」 它让 Agent 自动审查海量生产运行轨迹、聚类问题并给出带证据的改进建议，数据自托管在用户自己的 ClickHou...

8.5内容质量
LiteLLM 推出了 Agent 轨迹智能分析功能「LiteLLM Lens」 它让 Agent 自动审查海量生产运行轨迹、聚类问题并给出带证据的改进建议，数据自托管在用户自己的 ClickHou...

TL;DR · AI 摘要

LiteLLM Lens 通过自托管数据和 AI 分析，解决大规模 Agent 运行的观测与诊断难题。

核心要点

  • ClickHouse 自托管实现数据主权，避免平台锁定问题
  • 支持无速率限制的 SQL/API，Codex/Claude Code 可直接分析轨迹数据
  • 三步闭环机制：定义标准→AI聚类分析→人工复核下钻

结构提纲

按章节快速跳转。

  1. §产品定位

    LiteLLM Lens 是企业 AI 流量网关上的新增分析层，解决 Agentic Swarm 的观测困境。

  2. ·核心痛点

    规模爆炸、故障取证困难、数据被平台锁定构成三大观测难题。

  3. ›技术架构

    轨迹数据存储于用户自托管的 ClickHouse，通过无限制 SQL/API 提供访问。

  4. ·工作流程

    定义标准→AI聚类分析→人工复核形成三步闭环诊断机制。

  5. ›UI 设计

    Trace UI 采用左侧行为树 + 右侧步骤 I/O 的双栏布局实现精准下钻。

思维导图

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）
  • LiteLLM Lens
    • 核心功能
      • 轨迹聚类分析
      • 自托管数据存储
    • 技术架构
      • ClickHouse 自托管
      • 无速率限制 API
    • 解决痛点
      • 规模爆炸
      • 故障取证
      • 数据锁定

金句 / Highlights

值得收藏与分享的关键句。

#LiteLLM#Agent#ClickHouse#可观测性
打开原文

meng shao on X: "LiteLLM 推出了 Agent 轨迹智能分析功能「LiteLLM Lens」 它让 Agent 自动审查海量生产运行轨迹、聚类问题并给出带证据的改进建议，数据自托管在用户自己的 ClickHouse 中，且通过无速率限制的 SQL/API 让 Codex、Claude Code 等编码工具直接消费轨迹数据。 理解这个产品，关键在于理解 @LiteLLM 的既有生态位：它已经是企业 AI 流量的主要入口，所有 LLM 调用都经过它的网关。Lens 是在这个数据优势之上叠加的新一层能力：对海量 Agent 运行轨迹做自动化分析与诊断。 https://… / X

meng shao

@shao__meng

Show translation

LiteLLM 推出了 Agent 轨迹智能分析功能「LiteLLM Lens」 它让 Agent 自动审查海量生产运行轨迹、聚类问题并给出带证据的改进建议，数据自托管在用户自己的 ClickHouse 中，且通过无速率限制的 SQL/API 让 Codex、Claude Code 等编码工具直接消费轨迹数据。 理解这个产品，关键在于理解

@

LiteLLM

的既有生态位：它已经是企业 AI 流量的主要入口，所有 LLM 调用都经过它的网关。Lens 是在这个数据优势之上叠加的新一层能力：对海量 Agent 运行轨迹做自动化分析与诊断。

docs.litellm.ai/blog/litellm-l…

它针对的是一个新兴且真实的痛点「Agentic Swarm」开发者的观测困境： · 规模爆炸：成百上千个 Agent 并行运行，产生 20 万+ 条轨迹，人工审查在物理上已不可能。 · 故障取证困难：当蜂群失效时，证据散落在数千次运行中，定位根因如同大海捞针。 · 数据被平台锁定：传统 tracing 平台（暗指 Datadog、LangSmith 等）将数据锁在自家系统里，且施加 API 速率限制，这直接阻止了 Codex、Claude Code 这类 AI 编码工具去批量分析这些数据。 工作方式：三步闭环 1. 定义“什么是好/坏运行”：开发者针对每个 Agent 描述好坏标准，可细化到逐行提问，例如“找出 Agent 未能恢复的工具调用失败”。 2. Lens 用 AI 分析轨迹：AI Agent 自动审查轨迹、深入调查运行、将相似问题聚类分组，最终产出带“下一步建议 + 支撑运行证据”的诊断报告。 3. 人工复核与下钻：每条发现都链接回原始轨迹的确切步骤（输入、输出、属性）；Trace UI 采用左侧行为树 + 右侧步骤 I/O 的经典双栏布局。 技术架构：数据主权是核心卖点 · 轨迹存储在 ClickHouse，由用户自托管，与 LiteLLM 网关部署在一起。 · 数据可用纯 SQL 直接查询，无黑盒。 · 提供面向 Agent 的 Tracing API，无第三方速率限制，Codex/Claude Code 可自由拉取分析。

Ishaan

@ishaan_jaff

17h

If you're a developer building agents in production,

Lens Agent now lets you use

cerebras

models (100+ providers) to analyze your traces and automatically improve your agents. Cerebras is great for analyzing 200K+ traces fast and cheap Figure out what’s failing and

Show more

$

GIF

/$

11:35 AM · Oct 4, 2026

·

1,124

Views

7

2

8