New in Amazon Bedrock AgentCore: Build agents with broader knowledge and continuous learning

Amazon Bedrock AgentCore 新功能：构建具备更广泛知识和持续学习能力的代理 | 人工智能

Amazon Bedrock AgentCore 新功能：构建具备更广泛知识和持续学习能力的代理

当今代理所使用的模型能力非常强大。它们可以解决复杂的问题，规划多步骤的工作流程，并生成细致入微的回应。但大多数代理的表现远未达到这种潜力。差距并不在于智能，而在于是否能够获取到正确的上下文和反馈。

如果一个客户服务代理无法访问存储在 SharePoint 中的退款政策文档，就无法回答有关您公司退款政策的问题。如果一个研究代理在构建市场简报时无法获取超出其训练数据的当前信息，就会提供一幅不完整的画面。如果一个财务顾问代理需要的实时市场数据被无法突破的付费墙阻挡，就会给出次优的建议。而在所有这些情况中，大多数团队在代理部署后，都没有系统的方法来判断它们是变好了还是变差了。

一个能力出众的模型只是起点。在生产环境中，代理的表现取决于它能否获取完成任务所需的一切：正确的知识、执行任务所需的资源，以及持续改进的反馈机制。

今天，我们在 Amazon Bedrock AgentCore 上推出了新的功能，这是一个用于构建、连接和优化代理的平台。在本文中，我们将介绍这些新功能如何弥补每个差距：连接代理到组织内部、网络和付费知识；帮助团队发现并解决生产环境中出现的问题；以及随着代理能力的增强，实施可扩展的控制措施。这些功能共同帮助您更快地构建更强大的代理，使用可扩展的控制措施进行治理，并持续改进它们。

知识更丰富、覆盖范围更广的代理

我们在 AgentCore 上为代理提供了对三层知识的原生访问，每层知识都进一步拓宽了代理的覆盖范围和能力。

组织知识层：Amazon Bedrock 管理知识库

您最有价值的信息分散在 SharePoint、Google Drive、Confluence、S3 和内部维基中。传统上，要让这些信息对代理可用，需要构建自定义的摄入管道，调整检索过程，并随着时间推移维护数据的新鲜度。这意味着在您的代理能够回答有关您自己业务的基本问题之前，需要数月的工程开发。

现在，Bedrock 管理知识库在 AgentCore 上可用，取代了上述繁琐的工作。您只需连接您的非结构化数据源，AgentCore 就会处理其余部分。我们负责管理向量存储、检索过程中使用的嵌入和重新排序模型，以及诸如速率限制等可扩展性问题，这样您的团队就可以专注于构建代理，而不是操作管道。其核心是一个代理检索器，远远超越了传统的 RAG。它不会将查询匹配到最接近的片段，而是规划跨知识库的查询，连接文档中的相关概念，评估中间结果，并在回答前重新排序。对于跨越多个主题的复杂、多部分查询，代理检索器提供的覆盖范围明显更广、更完整。您的代理将从“我无法访问该信息”转变为一个基于您实际业务知识的综合答案，无需构建任何管道，也无需调整任何检索。

内部知识存在空白。法规不断变化，市场不断转移，竞争对手持续推出新产品。为了发挥最佳表现，您的代理需要了解组织外部发生的事情，用于研究、事实核查、客户服务和市场情报。

今天，我们推出 Web Search，这是为构建 AI 代理的开发人员提供的一种新工具。它能够从网络上获取信息，同时将数据保留在客户安全的 AWS 环境中。Web Search 基于亚马逊的相同搜索基础设施，该基础设施支持 Alexa+、Amazon Quick Suite 和 Kiro。Web Search 优化了代理检索功能，返回高价值的摘录内容，每单位信息都具有高智能性。它还采用多来源的定位方法，将公共网络信息与亚马逊的专有知识图谱相结合。该知识图谱增加了结构化实体数据、已验证的事实和实时信息（如股票价格和体育比分）。AgentCore 上的 Web Search 使您的查询保留在 AWS 安全和合规边界内，无需额外引入供应商，也不需要与供应商相关的编排、认证和计费流程。无论您是在构建能够交叉参考公开来源的研究代理，还是监控法规和政策更新的合规代理，或是在当前信息基础上定位模型响应的代理，现在您的代理都可以像查询内部知识一样，推理实时网络上的信息。

“在索尼，我们正在基于 AgentCore 构建一个企业级 AI 代理平台，让不同业务部门的团队能够开发、共享和重复使用 AI 代理，从知识助手到工作流程自动化代理，每个代理都根据其需求进行定制。我们企业的知识分布在诸如 SharePoint、Confluence 和 Amazon S3 等存储库中，包括 PDF、演示文稿和带有图表和表格的电子表格等复杂文档。现在 Bedrock 管理知识库和 Web Search 已在 AgentCore 上提供，我们可以为代理提供先进的检索和实时网络定位功能，同时保持一致的治理模型，而无需从头构建这些能力。这加快了我们以 AI 为催化剂，大规模改变人们工作方式的愿景。” —— 索尼集团高级总经理 大场正弘（Masahiro Oba）

付费知识层：AgentCore 支付和 AWS WAF AI 流量变现

最好的信息并不总是免费的。金融市场的数据流、授权研究、专有数据集、高级 API。如果您的代理无法访问付费资源，它将返回次优的答案，用户永远不知道遗漏了什么。

访问付费内容需要两个部分：代理需要一种支付方式，而提供方需要一种获得报酬的方式。上个月发布的 AgentCore 支付功能处理了代理端，使代理能够发现付费服务和内容，访问它们并在其执行过程中进行支付。现在一般可用的 WAF AI 流量变现功能处理了提供方端，使内容所有者能够控制代理的访问权限：阻止访问、允许访问或获得报酬。由于这两种功能都运行在同一个平台上，使用 WAF 的提供方会自动识别在 AgentCore 上验证过的代理。其结果是建立了一个可信的通道：对验证过的代理来说摩擦更小，对提供方来说则可以获得补偿。这些功能共同构建了代理经济双方的基础设施，使代理可以访问所有内容，而不仅仅是那些恰好免费的内容。

从每次交互中学习的代理

为代理提供更好的知识访问权限只是问题的一部分。你还需要知道你的代理是否真正实现了其目标，并在它没有实现时及时发现。

这比听起来要困难得多。最危险的代理失败并不是那些抛出错误的失败。它们是那些在仪表板上看起来正常的情况：一个代理确认了一个它从未执行的订单修改，另一个代理在 API 超时时编造产品可用性信息，还有一个代理跳过了审批步骤，而仪表板上显示的成功率是 99%。这些失败不会产生任何错误信号，它们往往在几周后通过客户投诉才被发现，通常已经影响了数千次会话。即使团队知道有些地方出了问题，修复它们也大多是猜测。你调整一个提示，更改一个工具描述，调整编排逻辑，然后希望它有所帮助，却没有任何结构化的方式来判断这些更改是否真的改善了情况，还是悄悄地破坏了其他东西。

今天，我们宣布在 AgentCore 中新增了优化功能，这些功能将生产追踪转化为持续改进。它们共同形成一个闭环：了解你的代理实际上在做什么，基于数据生成修复方案，在发布之前验证这些修复，并证明它们确实有效。

了解你的代理在做什么：目前处于预览阶段，AgentCore 提供了对数百次会话的丰富失败、意图和轨迹洞察，揭示出任何仪表板或逐个追踪审查都无法发现的模式。失败洞察可以发现重复出现的失败模式，包括那些不会产生错误信号的静默行为失败，详细解释每种失败的根本原因，并按其影响范围进行排序，让你一目了然地知道哪些问题对用户影响最大，并优先解决这些问题。意图洞察通过用户实际想要完成的操作对请求进行聚类，让你看到代理实际使用方式的真正形状。轨迹洞察将代理在任务中所走的路径进行分组，让你能够发现常见的模式和异常值。你可以通过每日或每周报告启用持续监控，或在部署后或投诉激增后进行有针对性的调查，几分钟内即可获得结果。

有信心地进行修复：一旦你知道需要更改什么，推荐建议和 A/B 测试（目前全面可用）将帮助你采取行动。推荐建议通过分析你的追踪和评估输出，基于代理实际行为，提出对系统提示和工具描述的具体改进建议。批量评估将这些推荐建议与你定义的测试数据集进行对比，并报告聚合分数，让你在更改进入生产环境之前就能发现回归问题。A/B 测试通过将实时生产流量分配给不同的代理版本进行受控比较，让你在正式采用更改之前，就能获得更改在生产条件下确实有效的实际证据。无论你的代理运行在何处，所有这些功能都可以使用：AgentCore 的运行时、AWS Lambda、Amazon EKS 或非 AWS 环境。

这就是当持续改进内建于平台时的样子，而不是在事后拼凑而成。

“在 FUJISOFT，我们正在构建 AI 代理，以加速软件开发和运营。我们的框架 Character Capsule 将代理的角色、技能和流程封装为可重用的胶囊，这些胶囊可以在本地编码工具如 Copilot 和 Kiro 上运行，也可以扩展到 AgentCore 上的多代理编排。随着我们部署了越来越多的代理，我们面临的最大挑战是那些看似正常但之后才暴露出来的静默失败，修复这些问题只是猜测。AgentCore 的优化功能改变了这一状况。它们分析我们的生产跟踪数据，揭示失败模式，解释其发生原因，并按影响程度进行排序。我们随后会收到改进建议，包括如何优化提示和工具描述，并在提交之前在实时流量上进行 A/B 测试。现在，代理的改进已成为一个基于数据的持续循环，而不是试错。” FUJISOFT AI 推广部高级经理 Matsuda Kazumi

随着代理能力的增强，控制力也更强：新的策略增强功能

更强大的代理意味着更大的表面积。而代理引入了一个传统软件从未遇到过的安全挑战：它们是概率性的。代理做出判断，而判断可能受到上下文的影响。新的暴露点不再是你的网络，而是代理的上下文，其中提示注入和记忆污染不需要入侵，只需要说服代理做出错误的判断。

保护一个概率性的东西，需要用一个确定性的东西：不是作为大脑，而是作为围绕大脑的护栏。AgentCore 的策略功能已经提供了实时的、确定性的控制，这些控制在网关处定义了代理可以和不能对您的工具和数据执行的操作。今天，我们通过 Bedrock Guardrails 集成扩展了这些功能，该功能现已全面推出，它会对每个代理操作进行检查，以检测提示注入尝试、有害内容和敏感数据泄露。这些检查在网关层运行，位于代理代码之外，代理无法在上下文中看到它们，无法绕过它们，也无法说服自己它们不适用。

Guardrails 是策略引擎可以响应的许多检测信号中的第一个，它不仅限于我们自己的信号。很快，AgentCore 将允许您将来自领先安全提供商（包括 Check Point、Zscaler、Rubrik、Netskope 和 SentinelOne）的检测信号输入到相同的策略中。无论信号来自何处，原则保持不变：检测可以是概率性的，但策略执行始终是确定性的，最终的允许或拒绝决策基于已建立的阈值。

由于 AgentCore 上的每个工具和上下文来源都通过网关路由，因此代理获得的新功能会自动受到相同的安全部署层的管理。更强大的代理，更强的控制，共同扩展。

从想法到几分钟内运行的代理：AgentCore 操控器现已全面推出

代理不仅仅是模型。如果模型是大脑，那么操控器就是身体：大脑完成工作所需的一切。它运行编排循环，执行工具，管理上下文窗口，跨回合持久化状态，从失败中恢复，并隔离每个会话。操控器对代理表现的影响程度与模型一样重要。目前，大多数团队都在花费大量时间构建一个可靠的操控器。

AgentCore 框架现已正式发布，它为你提供了这一层作为托管能力。你不需要编写循环逻辑，而是通过配置来定义你的代理：它使用的模型、调用的工具、可访问的技能、遵循的指令。AgentCore 会为你组装并运行这个循环。仅凭这一项定义，你几分钟内就能获得一个运行在独立环境中的可用代理。它自带文件系统和 shell，支持跨会话的内存，技能（包括 AWS 精选目录），以及网络浏览功能。这不是一个你会很快超越的入门工具：你最初开始使用的配置就是你用于大规模操作的配置，当你需要自定义编排时，你可以将框架导出为代码，并继续使用同一平台，无需重新构建任何内容。

除了速度之外，这还解锁了一个市场上尚未提供的真正选择。目前可用的框架选项都会将你绑定到某些东西上。开源选项需要你自己托管和运行框架；托管服务则将你锁定在它们的环境中；来自模型实验室的框架仅优化了它们自己的模型。我们已将框架与模型解耦，因此你可以选择任意模型，并在会话中切换模型，而无需更改代理的逻辑。随着前沿技术的发展和任务的最佳模型发生变化，你的代理的基础始终保持不变。

选择只是其中的一部分。由于框架是单个平台的一个组成部分，而不是围绕框架的托管层，它通过同一个网关访问你的工具，该网关执行你的安全策略，并将你的代理连接到组织知识、网络搜索和付费服务。身份、内存和可观测性都来自同一平台，因此你的代理所执行的每一个操作，从第一次调用开始就受到控制和追踪，无需额外的配置。你第一天声明的代理，就是你运行到第 1000 个时的代理，整个过程都基于相同的底层架构。

“Twilio 的客户正在构建能够跨语音、消息和数字渠道运行的人工智能代理，这些代理具备实时智能和持久记忆，使每一次交互都像一场对话。通过将 AgentCore 框架与 Twilio 对话功能结合，开发人员可以无需重新构建基础设施，就能从想法直接过渡到运行中的代理。最好的客户体验发生在优秀的 AI 和优秀的通信基础设施共同构建之时。”Twilio 产品副总裁 Omar Paul

开始使用

这些功能今天已在 AgentCore 上正式发布：托管框架、Bedrock 管理知识库、网络搜索、护栏集成、推荐和 A/B 测试。洞察和支付功能目前处于预览阶段。

现在通过控制台或 AgentCore CLI 开始使用。访问文档以了解更多内容。

作者简介

Madhu Parthasarathy

Madhu Parthasarathy 是 Amazon Bedrock AgentCore 的总经理，他带领团队构建平台，企业可以利用该平台构建、连接和优化生产 AI 代理。他拥有超过 20 年构建大规模分布式基础设施的经验，其中包括在亚马逊工作的 16 年以上，期间他领导了亚马逊零售、弹性块存储（EBS）以及现在的 AgentCore 的多个重要项目。在重返亚马逊之前，Madhu 曾在 LinkedIn 担任高级领导职务，领导了支持 LinkedIn 所有企业业务线的平台；他还曾在一家新云初创公司担任领导职务，负责 AI 基础设施，并制定了安全性和开发者体验的愿景。他目前位于加利福尼亚州的圣克拉拉。