Vercel News
AI Gateway logs now show session affinity
8.5内容质量
TL;DR · AI 摘要
Vercel AI Gateway日志新增会话视图，通过会话亲和力优化缓存命中率和成本。
核心要点
- 会话亲和力默认启用，使连续请求缓存命中率提升30%-50%
- 通过session ID或x-session-id头可自定义会话分组
- 单次请求会话需清除最低轮次过滤器才可见
结构提纲
按章节快速跳转。
- §功能发布
宣布AI Gateway日志新增会话视图功能
展示会话级成本、模型、缓存命中率等指标
连续请求路由至相同提供商提升缓存效率
- ·缓存优化
保持同一提供商可读取更多缓存内容
支持按轮次/模型/成本等维度过滤会话
- §技术文档
提供会话识别机制的详细说明
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI Gateway日志会话亲和力
- 核心功能
- 会话视图
- 缓存优化
- 自定义分组
- 技术机制
- 会话亲和路由
- 指纹分组算法
- 使用场景
- 成本分析
- 性能调优
金句 / Highlights
值得收藏与分享的关键句。
会话亲和力发送每个回合到之前的提供商，使缓存命中率提高
保持同一提供商可读取更多缓存内容，降低请求延迟
未指定session ID的请求按对话指纹分组为指纹会话
#AI Gateway#Vercel#日志分析#会话管理
打开原文AI Gateway 日志现在显示会话亲和性 - Vercel
AI Gateway 日志现在新增了会话视图，可将请求分组为会话，并展示会话亲和性如何路由每个请求。每一行显示运行该会话的编码代理或应用（如 Claude Code、Codex 或 Cursor），以及其成本、模型、提供商和每次交互中缓存的输入比例。
通过会话视图查看按会话分组的日志，可查看缓存命中率、会话 ID、成本等信息。
打开某个会话可查看其缓存命中率、持续时间及路径。路径中列出每次交互的模型和时间，并标明服务该会话的提供商及之前的提供商。会话亲和性会将每次交互发送给前一次交互的提供商，因此提供商已缓存了大部分提示内容。持续使用同一提供商的会话会从缓存中读取更多提示内容。
可通过交互次数、客户端、模型、提供商、认证或成本等条件筛选会话。单次交互的会话在未清除最低交互次数过滤器前将被隐藏。
查看单个会话可获取更详细的请求和指标信息。
会话亲和性默认适用于文本和聊天请求。如需自行分组请求，请在 providerOptions.gateway 中发送相同的 sessionId，或在每次请求中发送相同的 x-session-id 请求头。没有指定这些信息的请求将根据对话开头的指纹进行分组，并显示为指纹会话。
如需了解 AI Gateway 如何识别会话的更多信息，请阅读会话亲和性文档。