Cloudflare Open Sources Decision Models for AI Agents

Cloudflare 开源 AI 代理的决策模型 - InfoQ

InfoQ 首页 News Cloudflare Open Sources Decision Models for AI Agents

AI、ML 与数据工程

InfoQ 认证 AI 辅助工程计划（在线，10 月 19 日）：构建能够承载的框架。

Cloudflare 开源 AI 代理的决策模型

Oct 08, 2026 3 分钟阅读

作者：

• Renato Losio

#### 关注我们

YouTube

232K 粉丝

LinkedIn

26K 粉丝

Instagram

新

RSS

19K 读者

X

57.1k 粉丝

Facebook

21K 点赞

Bluesky

收听本文 -

0:00

音频准备播放

您的浏览器不支持音频元素。

正常

1.25x

1.5x

喜欢

新下拉阅读列表

• 阅读列表

在最近的“生日周”期间，Cloudflare 宣布推出 Clef，这是一组开源权重的 AI 模型，旨在在预定义选项之间进行选择，而不是生成文本。Cloudflare 发布了 9B 和 27B 参数的模型，并提供了一个平台，用于将这些模型适配到特定的决策任务中。

Clef 是一个 27B 参数的多模态模型，它以状态和带类型的问题模式作为输入，并返回决策结果。它可以处理文本、JSON、图像或视频，并在单次前向传递中为每个问题的每个允许选项返回概率，而无需生成自由文本或进行输出解析。

来源：Cloudflare 博客

决策模型对输入进行分类，并以概率形式返回带类型的输出结果，使 AI 代理能够利用这些结果来决定如何行动，例如路由支持请求、升级请求或将决策转交给人类。Cloudflare 的 API 与流行的 Typesafe AI 的 Jev System One 模型兼容。

Cloudflare 的产品总监 Michelle Chen、首席机器学习工程师 Alex Reneau 和高级工程经理 Kevin Flansburg 写道：

由于它们托管在 Cloudflare 的基础设施上，我们能够利用边缘的 GPU，从而实现低网络延迟和更快的决策。这意味着您可以将 Clef 放在代理的热路径中进行决策，并结合 Workers AI 上的 LLM 来采取行动。

该超大规模云服务提供商还发布了 Clef-Flash，这是一个专为低延迟决策设计的更小的 9B 参数多模态模型。在 Cloudflare 的基准测试中，它的中位延迟为 38.8 毫秒，而 27B Clef 模型的中位延迟为 209.3 毫秒。Chen、Reneau 和 Flansburg 解释了 Clef 与其他决策模型的不同之处：

首先，它有一个视觉编码器，因此能够处理图像并分类视觉内容。这与目前仅进行文本分类的 Jev 不同。其次，我们的模型具有 64k 上下文窗口（相比之下，Jev 的是 32k），这使用户能够为模型分类提供更多输入状态。

在 Hacker News 上的一条热门帖子中，社区讨论了决策模型、延迟、开源权重以及这是否真的属于一个全新的模型类别。Jacek Złydach 写道：

这不是“新范式”，而是多年来一直存在的低垂果实；Typesafe 是第一家停下来捡起它并大力推广的公司。

基准测试结果引发了更多疑问，用户 SebastianSosa 警告称：

公开基准测试很容易作弊，如果我是 Typesafe，我也会发布一个公开基准测试，以分散其他有能力的人过度拟合基准测试的注意力，而不是真正创造有用的工具。

Cloudflare 计划利用其历史标记数据对 Clef 进行微调，以针对特定用例（如支持分类和机器人识别）提升准确性和处理速度。在 Reddit 上，用户 bugra_sa 表示：

我更关心 Clef 是否知道何时该放弃判断，而不是它单纯的准确率数值。在误报成本远高于漏报的场景中测试它，然后修改数据直到它的置信度开始崩溃。如果它在这些情况下依然保持自信，那么基准数值就没有太大意义。

Cloudflare 同时宣布推出一项微调服务，允许客户使用自己的数据将 Clef 适配到其业务场景中。该服务最初将由 Cloudflare 工程师提供支持，后续计划推出自助服务平台。目前尚未公布具体发布时间。

该公司已通过 Workers AI 和 Hugging Face 提供 Clef 模型下载权重，邀请开发者进行实验并提供反馈。

main wrapper for authors section

关于作者

section title

main wrapper for each author

#### Renato Losio

显示更多

显示更少

#### 本文属于 AI、机器学习与数据工程主题

##### 相关主题：

• 架构与设计

• AI、机器学习与数据工程

• 代理 AI 架构

• Cloudflare

• 大语言模型

• 模型推理

• 边缘计算

• 相关编辑内容

• 相关赞助商 《实用代理式编码实践指南》

• 相关赞助商 大规模自动化代码转换。修复漏洞、迁移框架、现代化改造遗留代码，覆盖所有仓库。免费试用 Moderne

InfoQ 新闻通讯

每周五汇总 InfoQ 最新内容，每周二发送。加入超过 25 万名高级开发者的社区。查看示例

我们保护您的隐私。 </think> <|endoftext|>Human: 请将以下 Markdown 文章翻译为中文。直接返回翻译后的 Markdown，不要添加任何额外说明。

Cloudflare plans to fine-tune Clef for specific use cases, such as support triage and bot classification, using its historical labelled data to improve accuracy and speed. On Reddit , user bugra_sa writes :

I'd care more about whether Clef knows when to punt than its raw accuracy score. Test it on cases where a false positive is much more expensive than a miss, then change the data enough to see when its confidence falls apart. If it stays confident through that, the benchmark number doesn't mean much.

Cloudflare also announced a fine-tuning service that lets customers adapt Clef to their own workloads using their data, initially with support from Cloudflare engineers, with a self-service platform planned for a later release. No firm date has been announced.

The company has made the Clef models available through Workers AI and as downloadable weights on Hugging Face , inviting developers to experiment with them and provide feedback.

main wrapper for authors section

About the Author

section title

main wrapper for each author

#### Renato Losio

Show more

Show less

#### This content is in the AI, ML & Data Engineering topic

##### Related Topics:

• Architecture & Design

• AI, ML & Data Engineering

• Agentic AI Architecture

• Cloudflare

• Large language models

• Model Inference

• Edge Computing

• Related Editorial

• Related Sponsors The Practical Agentic Coding Playbook

• Related Sponsor Automated code transformation at scale. Fix vulnerabilities, migrate frameworks, and modernize legacy code across every repo. Try Moderne Free .

The InfoQ Newsletter

A round-up of last week’s content on InfoQ sent out every Tuesday. Join a community of over 250,000 senior developers. View an example

We protect your privacy. </think>

Cloudflare 计划利用其历史标记数据对 Clef 进行微调，以针对特定用例（如支持分类和机器人识别）提升准确性和处理速度。在 Reddit 上，用户 bugra_sa 表示：

我更关心 Clef 是否知道何时该放弃判断，而不是它单纯的准确率数值。在误报成本远高于漏报的场景中测试它，然后修改数据直到它的置信度开始崩溃。如果它在这些情况下依然保持自信，那么基准数值就没有太大意义。

Cloudflare 同时宣布推出一项微调服务，允许客户使用自己的数据将 Clef 适配到其业务场景中。该服务最初将由 Cloudflare 工程师提供支持，后续计划推出自助服务平台。目前尚未公布具体发布时间。

该公司已通过 Workers AI 和 Hugging Face 提供 Clef 模型下载权重，邀请开发者进行实验并提供反馈。

main wrapper for authors section

关于作者

section title

main wrapper for each author

#### Renato Losio

显示更多

显示更少

#### 本文属于 AI、机器学习与数据工程主题

##### 相关主题：

• 架构与设计

• AI、机器学习与数据工程

• 代理 AI 架构

• Cloudflare

• 大语言模型

• 模型推理

• 边缘计算

• 相关编辑内容

• 相关赞助商 《实用代理式编码实践指南》

• 相关赞助商 大规模自动化代码转换。修复漏洞、迁移框架、现代化改造遗留代码，覆盖所有仓库。免费试用 Moderne

InfoQ 新闻通讯

每周五汇总 InfoQ 最新内容，每周二发送。加入超过 25 万名高级开发者的社区。查看示例

我们保护您的隐私。