Cloud CISO Perspectives: The 4 lessons that guided AI Threat Defense

Cloud CISO 视角：指导 AI 威胁防御的四个关键教训 | Google Cloud 博客

安全与身份

Cloud CISO 视角：指导 AI 威胁防御的四个关键教训

2026年6月16日

##### Chris Betz

Google Cloud 首席信息安全官（CISO）

##### 在您的邮箱中获取原始的 CISO 见解

来自 Google Cloud 首席信息安全官办公室的最新安全资讯，每月两次。

订阅

欢迎阅读 2026 年 6 月的首篇 Cloud CISO 视角。今天，我们向大家介绍 Chris Betz，他将成为 Google Cloud 的新任首席信息安全官。在本次 Cloud CISO 视角中，Chris 分享了我们在构建 AI 威胁防御时所学到的四个关键教训。

与所有 Cloud CISO 视角一样，本通讯的内容也会发布在 Google Cloud 博客上。如果您正在网站上阅读这篇文章，并希望接收电子邮件版本，可以在此订阅。

Cloud CISO 视角：指导 AI 威胁防御的四个关键教训

作者：Chris Betz，Google Cloud 首席信息安全官

就在一年前，一个优秀的应用安全团队可能需要数月甚至数年时间才能发现数千个漏洞。如今，一个配备了多个 AI 模型的团队可以在数小时内，甚至几分钟内发现相同数量的漏洞。

AI 正在重新定义网络安全的规则。确实，AI 增强了攻击者的能力，带来了新的威胁行为者、攻击技术和防御面，所有这些都以前所未有的规模、速度和复杂性运作。AI 驱动的攻击者通过分析源代码以外的内容来开发零日漏洞：配置漏洞、二进制文件和固件都成为他们的目标。

然而，AI 也为防御者带来了显著的优势。这些能力不仅掌握在我们手中，增强了我们的防御，我们还具备攻击者所缺乏的完整业务背景。软件安全，尤其是漏洞发现和修复，正在经历一场革命。

#### 安全正在迅速变化，要求我们所有人必须创新以应对。以下是我们今天如何开展这项工作，以及我们在此过程中学到的一些经验教训。

转发这条推文

很明显，AI 在安全方面的优势正在迅速发展，我们不能再依赖传统的手动防御手段。对于首席信息安全官和业务领导者来说，新的使命是通过采用一种基于 AI 的、自主的、开放的防御策略，以机器速度应对威胁，从而彻底改变漏洞管理。

我们已经为此做了多年的准备：从 Project Naptime（一个内部项目，旨在自动化漏洞搜索，让安全研究人员可以定期休息），到 Big Sleep（我们的自主零日漏洞猎手），再到 CodeMender（我们的自动化 AI 修补代理），我们一直在创新，以推动使用 AI 来提升所有人的安全。

在我们的产品和服务中，我们发现统一的方法有助于我们在 Google 规模上保护 Google。基于这种方法，我们最近推出了 AI 威胁防御，作为实现您所需威胁准备转型的途径，以 AI 技术来防御 AI 威胁。

该框架非常直接，您会发现它最终归结为两个关键点：

• 利用快速发展的 AI 来保护自己。

• 改变我们从底层开始开发的方式。

安全正在迅速变化，要求我们所有人必须创新以应对。以下是我们今天如何开展这项工作，以及我们在此过程中学到的一些经验教训。

四个关键教训

我们的工作基于一个四步框架，该框架直接建立在我们所学到的经验之上：

• 准备：谷歌如何开启这段旅程——夯实基础并实现框架的运营化。

• 扫描与优先级排序：我们如何识别漏洞——进行深入分析和态势验证。

• 修复：我们从修复中学到了什么——实施工作流程，以自主验证并快速修补漏洞。

• 监控：我们如何利用AI代理进化监控——转向持续检测和主动响应方案。

1. 准备：现代企业依赖大量软件运行，而在谷歌，这一数量更是巨大。为了加快速度，我们需要明确重点，因此我们的第一个经验教训是减少攻击面。这让我们能够缩小关注范围，减少复杂性，并利用我们对软件供应链和依赖关系的洞察，来优先保护外部接口。

其次，我们投资建设了支持漏洞工作的运营框架。早期的实验迅速表明，一个能够应用我们对环境的理解、保护和分配扫描资源、并允许新功能在多个团队中进行迭代使用的扩展框架是多么有价值。良好的信息、代码访问权限、依赖图、令牌预算和基础设施的放大效应，是关键的摩擦减少因素。

第三，我们同时规划了工程工作和安全工作：你的工程合作伙伴至关重要，尤其是在与你的恢复能力和部署流程保持一致方面。

关键经验包括：

• 在扫描时，使用模型、工具和发现的问题对组件进行标记。

• 为查找、开发修复、构建和测试分配硬件和令牌预算。

• 在管理变更数量（和工程师工时）的同时，尽可能关注更多、更小的更新，并制定良好的发布计划以降低变更风险。

1. 扫描与优先级排序：我们持续扫描所有产品中的代码——搜索、广告、安卓、Chrome 和谷歌云——管理数以万计的软件包。

首先，我们启动了扫描并集中跟踪进度，将相同工具集成到我们的流水线中。我们早期就发现，最佳的扫描结果来自于特定产品专家、工具和AI模型的结合。三者结合至关重要，因为缺少其中任何一个，结果都会明显不同。

值得注意的是，如果你只能选择两个，我们建议选择专家和工具。一个能力较弱的模型，如果搭配良好的工具和专家，其效果会优于一个没有良好工具或专家的最佳模型。我们还建议使用多个模型。

跟踪和迭代数据非常重要。由于技术发展迅速，你的数据对于修订和优化流程至关重要。

其次，仔细审视你的软件供应链，并与关键供应商进行沟通。可访问性仍然是修复的关键标准，同样重要的是简化和精简你所从事的工作领域。

第三，由于可能出现的漏洞数量众多，因此拥有正确的优先级排序方法非常重要。通常，在部署变更时，你会优先考虑最小的爆炸半径以实现渐进式变更。在这里，我们建议采用相反的模型：从具有最大爆炸半径的基础代码开始，优先解决最困难的问题。

AI 模型在开发概念验证以快速测试准确性方面表现良好。Harness 和模型在降低误报率方面发挥着重要作用。将你的 harness 用于验证，并使用不同的代理或模型来验证结果，这两者都非常有价值。

AI 驱动的分类另一个关键点是使用你的 harness 和工具来声明漏洞的置信度和严重性。当然，开发补丁只是问题的一部分。

1. 修复：在 Google 的规模上修复漏洞需要战略上的根本转变。我们开发了一种以三个经验为中心的新方法。

首先，补丁的发布方式至关重要。我们采用了基于风险的方法，优先处理可以从外部访问且影响范围最大的代码，例如关键应用如 BoringSSL 和 gVisor。我们还了解到，为模型提供上下文是实现更快、更受信任修复的关键。

其次，我们了解到无法追踪的东西就无法修复。为了在大规模上管理修复，我们构建了一个中央系统来追踪每一个漏洞，从发现到解决，所有发现都标记在一个中央仓库中。这一单一的事实来源使我们能够执行补丁的服务水平目标（SLOs），并使我们能够部署持续的自主补丁并进行人工审核。结合强大的回滚能力，我们的团队在快速且安全地解决问题方面变得更加高效。

最后，我们学会了将弹性直接构建到系统中。最终目标是创建一个本质上具有弹性的系统，该系统不仅可以修补漏洞，还能抵御漏洞。我们不仅仅修复代码，还围绕代码强化整个系统。

这些变化帮助我们重新思考了如何通过三 R 策略（刷新、移除和重写）来保护开源软件。

• 首先，我们刷新基础部分——查找并修复代码中的漏洞。这关乎成为良好的网络公民并保护核心。

• 其次，我们移除外围部分。我们正在移除依赖项并用自定义代码替换它们。这既是为了提高效率，也是为了减少攻击面，从广泛的信任基础转向狭窄、受控的基础。

• 第三，我们重写关键部分。对于中间部分，我们正在通过人工智能将遗留逻辑和关键功能迁移到现代、内存安全的语言中，以自动化过渡，从而消除软件中的整个漏洞类别。

这种演变是一种有意识的方法，旨在减少复杂性，缩小攻击面，并为我们所有工作构建一个更加弹性、自主和安全设计的基础。

1. 监控：我们的工作不会就此停止，你的工作也应如此。安全环境一直在变化，监控阶段是我们的方法真正发挥作用的地方，通过创建一个持续的反馈循环，确保我们保持安全，并随着时间的推移变得更强。

在这个阶段，我们有三个关键经验。首先，安全需要持续的反馈循环。我们创建了一个反馈循环，用于监控整个生态系统中的两个方面：系统压力和漏洞热点。

其次，我们投入资源跟踪长期的修复健康状况。你只能改进你所衡量的东西。我们建立了一个全面的资产清单，以跟踪我们的整体安全态势和修复工作的完整性。在这里，我们对漏洞管理的产品级 SLOs 负责。

该系统使我们能够部署滚动补丁，即使在持续更新数据中心硬件的同时，也能利用AI代理在人类团队无法管理的规模上验证补丁的有效性。

第三，我们通过使用AI代理进行编码和监控，为未来做好了准备。你必须假设在某个时刻，攻击者的模型将变得更加先进。我们需要进化我们的运营模式，并为这种现实情况做好准备。

我们使用AI代理来自动化和标准化我们的响应方案，当发现问题时，能够实现即时的隔离。我们不仅局限于发现漏洞，还通过将关键库输入Gemini来提高其模式识别能力，创建出具备安全意识的编码代理。同时，我们的AI辅助红队成员持续对核心基础设施进行压力测试，确保我们的防御体系始终在不断发展。

这种持续监控的结果，是一个我们能够信任的、持续演进的、可衡量的程序。

这就是我们每天保护数十亿用户的方式，它为任何团队提供了一个框架，用于构建能够学习、适应并增强自身防御能力以应对未来威胁的防御体系。

若想了解更多关于AI威胁防御的信息，可以观看我们最近的在线安全讲座活动。

如果你错过了

以下是本月我们安全团队的最新动态、产品、服务和资源：

• 使用Google Security Operations代理检测和隔离AI驱动的威胁：了解Google Security Operations如何与AI威胁防御协同工作，以监控、检测和响应威胁，特别是来自你无法拥有或修补的代码的威胁。阅读更多。

• 如何阻止AI语音克隆绕过你的安全边界：传统的、相对稳定的网络边界已被一个更加灵活的边界所取代：由钓鱼攻击驱动的身份边界。以下是防御方法。阅读更多。

• 红队AI应用的5个经验教训：从Mandiant的实际红队经验中提炼出清晰、简洁的指导，帮助客户安全地开发和部署AI应用。阅读更多。

• 介绍Wiz Cloud Cost：通过上下文信息实现成本管理和优化：Wiz统一了云和AI成本的可见性，帮助团队在AWS、Azure和Google Cloud环境中消除浪费，提高支出效率。阅读更多。

• 将AI代理引入Chrome企业安全管理：我们推出了一个开源模型上下文协议（MCP）服务器，该服务器直接连接AI代理到Chrome企业API，帮助IT和安全团队更高效地管理浏览器安全。阅读更多。

• Google的实践：深入了解网络安全：了解Google专家如何应对当今最紧迫的安全话题、挑战和关注点。查看合集。

请访问Google Cloud博客，阅读更多本月发布的安全故事。

威胁情报新闻

• 寻求建议：针对美国律师事务所的持续定向攻击：Mandiant Consulting详细介绍了威胁集群UNC3753执行的以经济动机驱动的数据窃取勒索活动，重点介绍了如针对物理办公室等战术，并提供了保护终端和基础设施的可行建议。阅读更多。

• 欢迎来到 BlackFile：深入虚拟钓鱼勒索行动内部：Google 威胁情报小组（GTIG）持续追踪由名为“BlackFile”的威胁行为者 UNC6671 发起的广泛勒索活动，该活动通过复杂的语音钓鱼（vishing）和单点登录（SSO）入侵针对各类组织。阅读更多。

• PhaaS 2 Phurious：中文语言钓鱼服务的演变：虽然俄语威胁行为者在钓鱼即服务（PhaaS）领域长期占据主导地位，但一个竞争对手的生态系统正在中文地下世界迅速发展。在该生态系统中，GTIG 观察到一个根本性的转变，即从静态密码收集转向实时拦截和令牌化。阅读更多。

请访问 Google Cloud 博客，了解本月发布的更多威胁情报故事。

现在收听：Google Cloud 播客

• 云安全播客：大规模欺骗对手：Riot Games 的 Kevin Conley 讨论了现代组织如何利用欺骗技术，通过主动监控其环境，从而在对抗对手时获得主场优势。在此收听。

• 云安全播客：与 Wiz 一起实现云安全的超大规模扩展：Wiz 的联合创始人兼产品副总裁 Yinon Costica 讨论了公司如何采用以产品为导向的方法和独特的安全图模型，在竞争激烈的云安全市场中实现快速扩展。在此收听。

• 二进制背后：当 AI 功能创建零点击漏洞：Google Project Zero 的 Seth Jenkins 加入播客，剖析针对 Pixel 9 的完整双漏洞、零点击利用链。在此收听。

要将我们的 Cloud CISO 视角文章每月两次发送到您的邮箱，请订阅我们的新闻通讯。几周后，我们将带来更多来自 Google Cloud 的与安全相关的更新。

发布于

• 安全与身份

• Cloud CISO

• 人工智能与机器学习