Build more responsive apps with the Decisions API
TL;DR · AI 摘要
OpenAI推出Decisions API,基于GPT-6 Luna模型实现10倍加速的实时决策能力,支持三种结构化答案类型。
核心要点
- Decisions API处理速度比Responses API快10倍,适用于实时决策场景
- 支持predicate/choice/score三种答案类型,满足不同决策需求
- 新增JSON输入、图像支持及400次/请求的查询上限
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- Decisions API
- 技术特性
- GPT-6 Luna模型
- 10倍加速
- 三种答案类型
- 应用场景
- 实时决策
- 交易分类
- 内容审核
- 新增功能
- JSON输入支持
- 图像处理
- 区域扩容
金句 / Highlights
值得收藏与分享的关键句。
Decisions API focuses Luna’s intelligence on questions with bounded answers, helping applications and agents make near real-time decisions...
The variety of answer types allows Decisions to be applicable across a wide variety of use cases.
We’ve also continued to improve latency, including additional capacity in several regions in Asia.
推出 Decisions API
应用程序和代理在工作流程中会做出大量微小决策:如何对输入进行分类、将请求路由到何处,或下一步采取什么操作。单独来看,这些决策很简单。但大规模应用时,其延迟和成本会累积增加。
今天,我们正式发布 Decisions API。该 API 基于 GPT‑6 Luna 构建,专注于让 Luna 的智能处理具有明确答案的问题,帮助应用程序和代理通过文本、图像和结构化输入,以比 GPT‑6 Luna 通过 Responses API 快 10 倍的速度进行近实时决策。
自公开测试版以来,我们新增了原生 GPT-Live 集成、用于重复上下文的提示缓存,以及在美国和欧盟的推理驻留功能。开发者现在还可以传递原生 JSON 输入、在问题指令中包含图像,并且每个请求最多可提出 400 个问题(是之前限制的两倍)。我们还持续优化延迟,在亚洲多个地区增加了额外容量。
团队如何使用 Decisions API
早期采用者已经展示了 Decisions API 在各种用例中的适用性。
在 OpenAI 内部,各团队已将 Decisions API 应用于产品和业务工作流程。Dots 团队使用它来减少响应时间并提升交互性。我们的个人理财团队使用它来分类交易描述,而我们的通信团队则使用 Decisions API 按主题和评分对报道内容进行分类,判断其是否强化或挑战关键叙事——从而识别需要进一步审查的内容。
这些早期案例表明,快速且结构化的决策机制能够将大量信息转化为广泛用例中的有效行动。客户也在同样广泛的场景中应用 Decisions API,从准确归因 AI 成本到提升语言学习体验的互动性。
1 of 5
选择您的应用程序所需的决策类型
使用 Decisions API 非常简单:开发者定义一个问题及其允许的答案,然后通过文本、图像或原生 JSON 提供上下文。API 返回三种支持的答案类型之一——概率、选择或评分——应用程序可以据此决定下一步操作。多样化的答案类型使 Decisions 能够适用于各种用例。
Decisions API 支持三种答案类型:
| 类型 | 适用场景 | 主要结果 | | --- | --- | --- | | predicate | 估计某个条件为真的概率,例如产品是否有可见损坏。 | 概率:0 到 1 之间的估计值,表示条件为真的可能性。 | | choice | 从预定义选项中选择一个,例如代理是否应继续、重试或请求澄清。 | 选择:您提供的选项之一。响应还包含概率和置信度。 | | score | 根据评分标准中的有序等级对输入进行评分,例如损坏的严重程度。 | 评分:等级指数的概率加权平均值。 |
使用 Decisions API 和 GPT‑Live 构建实时语音体验
通过 GPT‑Live,您可以在语音应用中实现自然、富有表现力的对话,支持流畅的中断处理以保持对话连贯。Decisions API 现在 原生集成 GPT‑Live(opens in a new window),帮助应用在实时对话中快速做出精准决策。客服代理可以决定是否提出澄清问题、转接请求或升级问题。虚拟角色可以在用户与其对话时动态调整面部表情,并根据用户的话语以眨眼或微笑等方式回应,打造更具互动性的体验。
以下示例使用对话转录更新来选择虚拟角色的表情。将此配置添加到现有 GPT‑Live 会话的 session.triggers 中。
GPT‑Live 会触发 decision.event 事件;应用读取选定的 reaction 并据此对角色进行动画渲染。了解如何将语音与 Decisions API 连接。(opens in a new window)
自行体验 GPT‑Live 的决策功能
表情调色板
点击人脸预览表情。
实时决策
观看 Decisions API 如何根据您各自的发言选择面部表情。
您的话语
观看您说话时的反应。
助手的话语
观看助手回复时的表情变化。
尝试说:
我为猫咪彩排了我的试镜。她中途就走了出去。
此演示有时间限制。使用即表示您同意 OpenAI 的 条款 并认可我们的 隐私政策。
构建并评估您的首个决策
Decisions API 今天已通过专用的 Decisions 端点与 GPT-6 Luna 一同正式发布。请查看 定价与可用性指南(opens in a new window) 了解当前费率和缓存详情。
从您应用中频繁使用的某个重复性决策开始。定义问题、可能的答案以及区分它们所需的上下文。在 Decisions Playground(opens in a new window) 使用您自己的文本或图片进行测试,或按照 开发者指南(opens in a new window) 发起您的首个请求。
Decisions API 的输入令牌费用为每百万个 0.10 美元。缓存输入的费用为每百万个 0.01 美元。对于 30 分钟和 12 小时的缓存写入,请阅读我们的定价指南。(opens in a new window) 您只需支付输入令牌费用:不收取输出令牌费用。美国和欧盟提供区域处理,符合条件的客户可使用 Zero Data Retention(opens in a new window)。详情请参阅 定价与缓存(opens in a new window) 和 数据控制(opens in a new window)。