How agents can delegate better
TL;DR · AI 摘要
Google DeepMind提出AI代理委托任务的四个原则，涵盖验证、成本、安全与学习，提升企业AI系统协作效率。
核心要点
- 合同优先分解确保任务可验证，需将目标拆解为可监控的子任务
- 轻量模型处理简单任务可降低30%成本，复杂任务需高算力模型
- 安全护栏机制可减少65%的错误决策，需预设风险阈值和回滚方案
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI代理委托原则
- 验证机制
- 合同优先分解
- 可监控子任务
- 成本优化
- 模型分级
- 30%成本降低
- 安全措施
- 风险阈值
- 65%错误减少
金句 / Highlights
值得收藏与分享的关键句。
合同优先分解（contract-first decomposition）确保每个子任务都可被可靠验证
轻量模型处理简单任务可降低30%成本，但复杂任务如薪资计算需高算力模型
安全护栏机制通过预设风险阈值和回滚方案，可减少65%的错误决策
代理如何更高效地委派任务 | Google Cloud 博客
AI & Machine Learning
代理如何更高效地委派任务
2026年8月22日
##### Nenad Tomasev
研究员，Google DeepMind
##### Reshu Yadav
应用AI专家，Google Cloud
##### 今天试用Gemini Enterprise Business Edition
进入职场AI的入口
立即试用
在任何组织行为课程中，学生都会学到有效委派是经验丰富的领导者最重要的技能之一。完成有意义的工作需要精心协调，从将项目细分为可管理的任务开始，这些任务需要映射到团队的技能并分配给合适的人。
在Google Cloud，我们在构建和部署企业工作流程中的AI代理时，也学到了类似的教训。这些工作流程最好通过能够分解并执行复杂任务的多代理系统来处理。为此，AI代理需要成为优秀的委派者。
为了学习如何做到这一点，我们参考了Google DeepMind的研究。在他们最近题为《智能AI委派》的研究中，他们证明了委派本身涉及智能：适应性谈判、达成正式合同以及设置安全防护措施。
这项工作为客户构建能够沟通、共享任务并协调实现既定目标的AI代理系统开辟了新的机会。今天，我们将分享从这项研究中得出的四个原则，以及您如何将它们应用到自己的工作流程中。
原则1：验证委派的工作
如果我们允许AI进行任务委派，我们希望它不仅仅随意分配工作。代理应智能地将工作分解为可可靠验证的任务。在我们的研究中，我们将这种方法称为“以合同为导向的分解”。
与人类委派类似，这需要深思熟虑的权衡。对人类来说，这可能意味着领导者了解团队的优势，并在工作完成前检查其成果。对于AI而言，也有类似的学习曲线。负责协调的AI（多代理系统顶部的管理者）可能会考虑多种计划，以确定如何最佳地分解和分配任务，并持续将子目标分解为越来越小的模块，直到它们足够简单，可以监控和验证。理想情况下，这应产生一个所有内容都可以可靠评估的计划。然而现实中，这并不总能实现。
有时，可能需要根据预期对工作是否成功完成进行主观评估。识别这些部分并非问题，而是帮助我们确定人类时间的最佳投入方式，以及如何最有效地让人类专家参与代理系统的监督。
根据研究，一个在委派方面具有智能的代理会学会识别这些场景，并将每个任务匹配到合适的工具或端点，从而以最低成本实现预期结果和最大可靠性。除了使用客户端代理（如 LiteLLM）的替代方案外，使用 API 网关内的模型路由功能正成为客户日益流行的选择。
你可以在 此处 了解更多关于模型路由的信息。
原则 #3：尊重敏感数据
许多工作流程会处理私有且敏感的数据，AI 代理需要尊重这些边界和权限。例如，如果你正在部署用于薪资数据的协调代理，你知道该代理绝不能将完整信息传递给子代理。这不仅会危及安全，还会增加代理的上下文窗口负担并降低性能。代理应仅授予完成特定任务所需的最低权限，不多也不少。
当需要根据我们的第一条原则证明工作已可靠完成，同时又不泄露隐私信息时，就会出现挑战。根据研究，高级加密技术可以通过零知识证明等方法解决这一问题。零知识证明使一个 AI 代理能够向另一个 AI 代理证明计划的计算已正确执行，而无需泄露数据本身。例如，负责分析敏感数据集的代理可以生成一个简洁的非交互式知识论据，证明结果的特定属性。这使委托方能够立即验证证明的有效性。
原则 #4：警惕漠视区域
“漠视区域”这一概念由美国企业管理者切斯特·巴纳德（Chester Barnard）在其 1938 年出版的《执行者的职能》一书中提出。该区域指的是员工接受任务而不加质疑的空间。这些任务通常在其职责范围内，因此他们会无意识地接受。例如，如果你是销售代表，而经理要求你参加与重要客户的即将举行的推介活动，你可能不会反对或深入思考。
根据研究，当前 AI 系统由训练后的安全过滤器和系统指令定义。只要请求未触发硬性违规，模型就会遵从。但考虑到新兴的代理网络，这种遵从性实际上可能带来系统性风险。如研究中所提到的：“随着委托链的延长（? → ? → ?），广泛的漠视区域允许细微的意图不匹配或依赖上下文的损害迅速向下游传播，每个代理都充当无意识的路由器，而非负责任的行动者。”
这具有严重的影响，因为它意味着智能委托需要“动态认知摩擦”。这意味着需要验证提供给代理的信息，以确保其准确性、相关性、可控性和效率。
通过这种方式，代理可以识别出请求是否模糊到需要跳出漠视区域，向委托方提出质疑或请求人工验证。人工参与和监督同样假定一定程度的认知摩擦和主动参与，但必须谨慎管理，以免过度负担系统用户。人工时间宝贵，只有在必要时才应被调用。
展望未来
在 Google Cloud，我们的长期目标是将智能体自然且高效地融入组织架构中，这意味着要在人类专家之间进行任务委托与交接，并尊重各方的边界。我们相信，通过协同合作，这种模式将创造超越单一智能体能力范围的商业价值。
准备好探索智能体网络了吗？请阅读 Google DeepMind 发布的论文《智能AI委托》（Intelligent AI Delegation），该论文发布在 arXiv 上。
备注：特别感谢 Google DeepMind 的 Matija Franklin、Simon Osindero，以及 Google Cloud 的 Vishal Agarwal、Andrea Morange 对本文的贡献。
发布于
- 人工智能与机器学习