Introducing ai_decide: make fast decisions on your governed data

介绍 ai_decide：在受控数据上快速决策 | Databricks 博客

跳至主要内容

平台、产品与公告

2026年9月30日

介绍 ai_decide：在受控数据上快速决策

ai_decide 是 Databricks 原生的 AI 函数，可对模型路由、文档处理、代理评估等任务进行快速、低成本的决策。

作者：张Jane、丁Matthew 和 Dogra Archika

摘要

• ai_decide 是一项新的 Databricks AI 函数，可直接在您的数据上快速进行决策。它接收非结构化文本，可在不到一秒的时间内返回结构化决策。

• 由于其针对决策而非文本生成进行了优化，ai_decide 在类似任务上的速度和成本均低于 LLM（大语言模型）。

• 当您需要在受控数据上进行快速、低成本的决策时使用 ai_decide：将提示路由到正确的模型、用元数据标记客户评论，或通过 SQL 批量处理或通过 REST 实时处理来评估代理质量。

今天，我们推出了新的 Databricks AI 函数 ai_decide，它可以在您的受控数据上快速进行决策。

我们看到许多团队将 LLM 用于不需要复杂推理和文本生成的任务。这个支持工单属于哪个类别？这份文档需要人工审核吗？哪个模型应该处理这个提示？

这些问题驱动着许多客户的高规模企业工作流程，从处理数百万文档到控制实时应用程序逻辑。然而，使用 LLM 进行这些较小的、结构化决策意味着要支付额外的延迟和成本，这些成本在企业规模上会累积。像 TypeSafe AI 的 Jev 这样的决策模型弥补了这一差距：它不生成文本，而是接收非结构化输入和一组问题，并直接返回决策及其概率。

ai_decide 是由决策模型驱动的新 Databricks AI 函数。它可以在不到一秒的时间内评估一个或多个问题与文本的匹配度，对于每个问题，它会返回概率、命名标准中的选择，或有序量表上的评分。由于 ai_decide 针对快速决策进行了优化，因此在类似任务上比 LLM 延迟更低、成本更少。

今天立即试用 ai_decide

ai_decide 现已在 Databricks 处于 Beta 阶段上线。您可以通过 SQL 调用它，对数据进行大规模结构化决策，或通过 REST API 用于实时应用程序和代理。对于已经使用 TypeSafe AI API 构建系统的团队，ai_decide 函数可以直接兼容。

不确定从哪里开始？如果您有非结构化数据并需要对其进行分类、评分或决定下一步操作，ai_decide 是一个很好的选择。以下是一些您可以今天尝试的用例：

分析客户评论以识别重复出现的产品问题

您每个月会收到数千条产品评论。客户会描述从令人困惑的设置说明到错误的账单费用等各种问题。

使用 ai_decide，您可以通过一个 SQL 查询为每条评论标记其主要问题，并确定客户是否打算退货。按产品和月份汇总这些标签，可以跟踪重复投诉，并查看哪些问题最常与退货报告同时出现。

将用户提示路由到正确的模型

假设你是一家开发AI助手的软件公司。用户会要求助手完成从改写句子到设计数据库架构的各种任务。你拥有多个具有不同成本和能力的模型，希望为每个请求选择合适的模型。

使用 ai_decide 确定提示的推理层级和难度，然后将请求路由到对应的模型。

$

/$

一个示例结果 response.answers :

用裁判评估AI生成的回答

假设你是一家拥有AI客服助手的在线零售商。在发布新版本前，你希望将助手的回答与退款政策进行对比评估。你手头有一组客户问题、生成的回答和参考政策。

使用 ai_decide 作为裁判，检查回答是否符合政策，并评估其多大程度上满足了客户需求。

以下是示例结果行，展示 response.answers :

确定实时应用中的下一步操作

由于 ai_decide 在千分之一秒内即可返回决策，其速度足以驱动实时应用，每个决策都依赖于当前状态。

为了演示，我们在 Databricks Apps 上搭建了 Snake 游戏的实时演示。ai_decide 来扮演游戏：每次刷新时，应用会将当前棋盘发送给 ai_decide 并询问，蛇下一步应该向哪个方向移动？

由于整个决策循环在千分之一秒内完成，你可以将 ai_decide 应用于任何需要实时决策的代理或应用程序中：调用哪个工具、选择哪个分支、下一步采取什么行动。

入门指南

ai_decide 现已开放 Beta 版。你可以通过 SQL 使用它对受控数据进行分类、评分和大规模决策，也可以调用 REST API 将快速决策集成到实时应用和代理中。除了托管功能外，我们还拥有一个不断扩展的开源权重决策模型生态系统，你可以在 Databricks 上直接通过 SQL 服务和运行这些模型。请查看我们最近的 open-Jev 演示了解详情。

查阅 ai_decide SQL 文档 或通过 REST API 入门。

订阅获取最新文章

订阅我们的博客，最新文章将直接发送到你的邮箱。

注册

查看所有博客

slice-start id="_gatsby-scripts-1"

slice-end id="_gatsby-scripts-1"