AI Gateway now supports team and project spend budgets
TL;DR · AI 摘要
Vercel AI Gateway新增团队和项目预算管理功能,支持按范围设置费用上限并自动阻止超额请求。
核心要点
- 预算可绑定团队/项目/API密钥三类范围,任一范围超限即拒绝请求
- CLI支持设置每日/周/月刷新周期的预算,默认为月度周期
- 默认预算可被显式预算覆盖,未设置预算的项目自动继承默认值
结构提纲
按章节快速跳转。
- §功能概述
介绍AI Gateway新增的团队/项目预算管理功能,支持设置费用上限并自动拦截超额请求
- ·预算范围
预算可绑定团队、项目或API密钥三类范围,请求需同时满足所有关联预算
通过Budgets面板设置预算阈值,实时监控各范围支出并配置50%/75%/100%阈值邮件警报
提供CLI命令设置团队/项目预算,支持指定刷新周期(日/周/月/无)
可为项目或API密钥设置默认预算,未显式配置的预算自动继承默认值
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- AI Gateway预算管理
- 预算范围
- 团队
- 项目
- API密钥
- 管理方式
- 仪表板监控
- CLI配置
- 警报机制
- 50%/75%/100%阈值邮件通知
金句 / Highlights
值得收藏与分享的关键句。
预算绑定团队/项目/API密钥三类范围,任一范围超限即拒绝请求
CLI命令支持设置月度刷新周期的项目预算:vercel ai-gateway budgets set project my-project --limit 200 --refresh-period monthly
默认预算可被显式预算覆盖,未设置预算的项目自动继承默认值
AI Gateway 现在支持团队和项目支出预算 - Vercel
AI Gateway 的支出预算现在可以针对团队或项目进行设置,而不仅仅是单个 API 密钥。为某个作用域设置美元限额后,网关会根据该限额计量支出,一旦达到限额,将停止进一步的请求,直到预算重置或您提高限额。
通过统一的概览界面,可以跟踪所有团队、项目和密钥预算的支出情况。
作用域
预算可以绑定到以下三种作用域之一。一个请求可能同时属于多个预算,必须通过所有预算:如果其中任何一个超出其限额,请求将被拒绝,即使其他预算仍有剩余空间。
| 作用域 | 限制支出范围 | |---|---| | 团队 | 团队通过网关运行的所有请求 | | 项目 | 归因于单个项目的请求 | | API 密钥 | 单个 API 密钥 |
默认情况下,BYOK 支出不会计入预算。
通过仪表板管理预算
从 AI Gateway 预算标签页设置和跟踪预算。概览界面会将支出按作用域与限额进行对比,让您在请求开始被拒绝之前,就能看到哪些预算接近或超出限额。
一目了然地查看所有作用域的预算健康状况和刷新周期。
开启电子邮件支出提醒功能,当使用量在刷新周期内达到限额的 50%、75% 或 100% 时,通知团队的使用量接收者。提醒功能默认关闭且仅提供信息:它们从不会阻止请求,只有预算限额才会阻止请求。
为项目或 API 密钥设置预算,可指定刷新周期和电子邮件通知。
为项目或 API 密钥设置默认预算,所有未明确设置预算的项目或密钥将自动继承该默认值。明确设置的预算始终会覆盖默认值。
通过仪表板跟踪所有预算的支出情况。
通过 CLI 管理预算
通过 CLI 设置、检查和删除团队和项目预算。刷新周期可以是每日、每周、每月(默认)或无(用于累计上限)。
1
# 设置团队预算
2
vercel ai-gateway budgets
set
team
--limit
500
--refresh-period monthly
3
4
# 将预算作用域限定到单个项目
5
vercel ai-gateway budgets
set
project my-project
--limit
200
--refresh-period monthly
6
7
# 为没有自定义预算的项目或密钥设置默认预算
8
vercel ai-gateway budgets defaults
set
project
--limit
200
--refresh-period monthly
9
10
# 列出所有预算
11
vercel ai-gateway budgets list
12
13
# 删除预算
14
vercel ai-gateway budgets remove team如需更多信息,请阅读预算文档。
贡献者
Kevin Sundstrom