Building an evidence-grounded agentic security operations harness on Cloudflare

在 Cloudflare 上构建基于证据的智能安全运营系统

post

工程

安全

人工智能

Cloudforce One

开发者

2026年10月7日

在 Cloudflare 上构建基于证据的智能安全运营系统

Deanna Tran ,  Javier Castro ,  Jacob Crisp ,  和 Blake Darché

9分钟阅读

复制链接

安全警报很少是孤立出现的。单个警报可能引发环境中的突增，需要人工分析师判断哪些警报相关以及其含义。当多个警报同时出现时，即使是经验丰富的安全分析师也可能迅速感到不堪重负。这就是所谓的警报悖论。现在，我们内置的多AI代理安全运营系统可以在Cloudflare规模上处理更多此类工作。

我们的 Cloudflare 管理防御 Â AI 代理 Â 系统加速了数据收集、连接和聚合检测以及在新警报持续到达时处理缺失来源的过程。为了进一步分析上下文，我们利用了 OpenAI Daybreak 防御网络 Â 和与 Anthropic 的合作。Cloudflare 使用经过批准的 OpenAI Daybreak 和 Anthropic 模型，包括 GPT-5.6 Cyber 和 Mythos，进行更深入的模型支持分析。初步分析和评分使用 Clef ，Cloudflare 的开源决策模型。

收集证据以理解每个警报的含义需要大量时间。即使是在高度复杂的安全信息和事件管理（SIEM）系统中，仍然有太多内容需要人工审核。人工分析师必须收集数据、连接和聚合检测，并在新警报持续到达时处理缺失来源。

设想每次人工分析师审查警报时都会面临的问题："我们应该静音哪些？应该采取什么行动？应该忽略哪些警报？应该将哪些视为误报？应该将哪些视为真报？哪些应该触发我们的事件团队？" 我们通过 AI 代理策略解决这一困境。我们的方法将所有这些问题简化，并为管理防御分析师提供快速且整合的视图，直接提供相关警报、已承认的证据、可见的差距和推荐的下一步操作。结果：减少分析所需的时间，并将注意力高度集中在实际解决安全警报和部署缓解措施上。

为什么单一代理会失败

我们的第一个原型展示了单一通用代理的局限性。我们向 AI 代理提供了整个调查。它产生了有用的分析，但也产生了证据不支持的错误声明。遥测数据、检测器描述、策略和威胁情报被合并成一个提示，导致它们各自的角色被混淆。

我们发现第一个单一AI代理系统存在三个反复出现的问题：

• 上下文成为权威。检测是一个假设，而不是攻击成功或发生攻击的证明。一个广泛的AI代理可能会模糊这种区别。

• 范围漂移。AI代理可能会查询错误的账户、时间范围或来源。你不能依赖语言模型提示作为边界。

• 失败消失。如果查找超时，结果可能无法区分“未检查”和“已检查但未找到”。

为了解决这些挑战，我们在模型分析开始之前，将证据收集和范围执行转移到应用程序代码中。

依赖单一主AI代理存在隐患，如上所述。Cloudflare Managed Defense采用不同方法，如下所述。

先侦察，后推理

在每个步骤部署AI代理看似诱人。但我们的系统前半部分并未使用任何AI代理。

在调用推理之前，确定性代码会运行一组固定的侦察工作流程，通过版本化API调用收集客户身份、检测历史、流量基线、执行结果和网络观测数据。每条数据均会记录其来源、版本和时间戳。

Cloudflare能够同时看到请求和对其施加的操作。这使调查能够将触发告警的行为与执行操作及其结果关联起来。

固定的侦察快照还使评估可复现。如果AI代理自行获取数据，两次运行可能因输入变化而得出不同结论。在此方案中，相同的快照可被重放，专家AI代理之间的差异仅源于解读而非数据获取。

早期过滤噪声

大多数告警并非安全事件。同一规则常对已知流量模式重复触发，频繁通知Managed Defense分析师反而容易忽略真实安全事件。

我们需要一个轻量级分诊模型，将每条告警与其侦察数据进行对比：客户是否曾检测到此事件？Managed Defense分析师此前做出过什么决定？流量是否符合正常人类行为？高概率为误报的告警将跳过专家AI代理的分析。

Clef基于Workers AI运行，是这种快速代理推理的完美方案。

已知的高流量噪声在到达时会被确定性分类为被动类型。它作为上下文信息保留，但不会进入主动队列。

专家AI代理处理调查

对于需要深入分析的告警，协调AI代理会并行运行四个专家AI代理：

• 流量分析：审查请求行为、历史变化和执行情况
• 客户上下文：审查早期告警、处置记录和Managed Defense分析师的决策
• 全局遥测：将活动与隐私保护的互联网级信号进行对比
• 威胁情报：检查已关联到告警或案件的指标

一个合成AI代理会将这些结构化发现整合为单一建议；它无法获取新证据或选择超出批准词汇表的分类。保持每个任务的聚焦性使不支持的主张更容易被发现，建议也更容易审计。

使用通用AI代理可能导致错误和范围漂移。如上所述，Cloudflare Managed Defense采用专家AI代理团队来提升质量和上下文准确性。

无需客户数据的全局上下文

安全工具了解其部署环境内的事件，但对环境外的世界知之甚少。Cloudflare会将告警与全球网络中观察到的模式进行对比。

例如，某个IP可能正在针对单一网站、扫描数千个网站，或首次出现。这些模式具有不同权重。为保护客户隐私，全局遥测专家仅使用聚合数据；它永远不会接收其他客户的个人记录或身份信息。

从证据到决策

在分析之前，系统会创建一个版本化的证据包，包含主题、范围、时间锚点、已承认的证据、策略版本、来源和覆盖缺口。专家必须引用该包中的项目。应用程序代码会检查每条引用是否存在、是否属于调查、是否支持所附声明。无效的发现会被纠正或记录为限制。

我们第二次借助Clef对证据进行评分。收集到的证据是否足以做出决策？我们收集到的证据是否存在矛盾？基于这些证据，Clef会从一个经过确定性缩减的攻击分类和处置列表中进行选择。

Cloudflare的开发者平台运行此流程。Workers上的应用程序代码承认证据并验证结果；Workflows协调每个阶段并在下一阶段开始前保存已完成的工作，因此失败的阶段可以重用已通过验证的证据和发现，而无需从头开始。D1保存调查和咨询状态，R2保存有界上下文和证据工件。案例聊天状态持久化存储在Durable Objects中，使用Flue，并通过AI搜索进行丰富。

最后，一个由LLM驱动的代理使用托管防御分析师已经使用的术语生成咨询报告：受影响的表面、执行结果、相关控制和下一步行动。托管防御分析师可以检查证据、进一步调查、修改建议或将警报分组为案例。在任何模型看到结果之前，应用程序代码会修复客户范围，并为每个专家提供其所需的证据。模型从未获得跨越租户边界或代表托管防御分析师采取行动的权限。

处理不完整的证据

在大规模网络环境中，数据源有时会失效。比较操作可能会超时，元数据可能缺失，或威胁情报查询可能没有匹配结果。系统会保留已收集的证据，并记录存在的数据缺口。

该指南区分了三种状态：

• 未检查
• 已检查，但无匹配结果
• 已检查，且有证据支持不存在

如果全局遥测数据不可用，系统可以描述对客户而言异常的情况，但无法判断该模式是否普遍存在。当证据不足时，系统不会进行分类或提出处置建议。

解决方案

有用的建议应导向解决方案，而非仅生成工单。指南可能建议为滥用路径添加速率限制规则，为特定签名添加WAF自定义规则，或调整DDoS防护设置。对于全托管客户，托管防御分析师可直接应用建议规则；其他客户将在仪表板中看到建议，并通过其选择的告警路径接收通知。

最终，托管防御分析师仍需对决策和任何缓解措施负责。每个告警和案件都会包含AI代理建议背后的证据，这使托管防御分析师能够通过接受或更新AI代理的建议来得出结论。

我们的托管防御仪表板为客户提供调查和指标的视图。此处显示的是演示数据。

后续计划

托管防御分析师仍需负责判断。AI代理将承担更多重复性工作：整合调查、关联相关事件，并展示每项建议背后的证据。在未来几个季度内，我们计划增加一个自定义托管层级，为每个组织提供更高的灵活性。

我们还计划探索持续运行的AI代理，用于监控Cloudflare流量并发现固定规则和阈值可能遗漏的模式。

早期测试版现已在Cloudflare托管防御中上线，适用于符合条件的应用安全告警和案件。如果您已经在使用Cloudflare WAF、DDoS防护、Magic Transit或其他支持产品，请联系您的企业账户团队以添加托管防御功能。

目录列

讨论列

相关标签和社交媒体链接

相关标签

关注社交媒体

• Cloudflare
• Deanna Tran
• Blake Darché

电子邮件订阅