MongoDB Blog

Production-Ready Agents Need A Production-Ready Data Platform

8.5内容质量

TL;DR · AI 摘要

MongoDB 通过其数据平台支持 AI 代理的生产就绪,提供高性能、灵活性和可扩展性。

核心要点

  • MongoDB 支持 JSON 格式,适合处理动态和非结构化数据。
  • MongoDB 提供搜索、向量搜索等能力,减少数据同步的复杂性。
  • Adobe 和 ElevenLabs 使用 MongoDB Atlas 实现 AI 代理的高效运行。

结构提纲

按章节快速跳转。

  1. AI 团队正在经历快速变化,需要一个灵活的数据平台来支持代理的开发。

  2. ·MongoDB 的优势

    MongoDB 提供高性能、灵活性和可扩展性,适合 AI 代理的开发。

  3. JSON 提供了处理动态和非结构化数据所需的灵活性。

  4. MongoDB 提供了搜索、向量搜索等能力,减少数据同步的复杂性。

  5. ElevenLabs 和 Adobe 使用 MongoDB 实现 AI 代理的高效运行。

  6. ElevenLabs 使用 MongoDB Atlas 实现 AI 代理的长期记忆和知识库。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • MongoDB 支持 AI 代理
    • 优势
      • JSON 格式支持
      • 信息检索能力
      • 可扩展性
    • 案例
      • ElevenLabs
      • Adobe

金句 / Highlights

值得收藏与分享的关键句。

  • MongoDB stores JSON natively and provides the scale and consistency required to run thousands of concurrent agents.

    — 第 3 段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • MongoDB solves this by providing state-of-the-art information retrieval capabilities (search, vector search, hybrid search, embeddings) directly where the operational data already lives.

    — 第 4 段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • Adobe leverages MongoDB Atlas Search and Atlas Vector Search together to power the sub-100 millisecond hybrid search the agent needs to act in real time.

    — 第 5 段

    ⬇︎ 下载 PNG𝕏 分享到 X
#AI#MongoDB#数据平台#Agent
打开原文

生产就绪的智能体需要一个生产就绪的数据平台 | MongoDB

最近与AI团队的对话中,有一个共同的主题:变化。持续不断、令人目不暇接的变化。各行各业的团队都在不断评估和重新评估模型提供商、智能体框架和工具。

在MongoDB,我们认为您选择技术合作伙伴——特别是您的数据平台——应该简化您使用AI构建的方式。它应该在大规模上提供性能,使您能够随时随地构建和运行,并且应该允许您选择自己的提供商和框架。这正是MongoDB所提供的,这也是为什么超过67,000家客户依赖我们来运行他们最重要的应用程序。

那些在AI方面取得最大成功的组织,是那些技术架构已经为当前变化速度做好准备的组织。例如,DevRev的AgentOS平台由MongoDB Atlas提供支持。AgentOS每月处理数十亿次请求,涵盖从AI辅助洞察和分析到内部沟通和开发的各个方面。依靠MongoDB Atlas帮助DevRev更快地将创新推向市场,并使公司能够随着增长无缝扩展。

MongoDB在两个关键方面非常适合智能体AI。

首先,智能体的智能程度取决于其上下文——这需要将短期记忆、长期知识和企业数据融合在一起。由于这些信息高度动态且非结构化,JSON是理想的格式。它提供了数据本身固有的模式灵活性,并允许附加如ID和置信度分数等元数据。MongoDB原生支持JSON,并提供所需的规模和一致性,以运行数千个并发智能体。

其次,MongoDB是按照智能体的工作方式设计的。随着记忆的积累,智能体必须确定请求所需的精确上下文。MongoDB通过在操作数据已经存在的位置提供先进的信息检索能力(搜索、向量搜索、混合搜索、嵌入),解决了这一问题,消除了在不同系统之间不断同步数据的需要。客户可以实现高精度的语义检索,而无需管理多个碎片化产品的操作负担。

MongoDB如何为智能体提供支持的一个良好例子是ElevenLabs。该公司依赖MongoDB Atlas为其自主智能体的长期记忆和知识库提供支持。通过利用Atlas Search和Vector Search,ElevenLabs使智能体能够保留复杂的上下文,并在实时中提供高度个性化的交互。

与此同时,Adobe选择了MongoDB作为Journey Agent的长期记忆和推理层,Journey Agent是Adobe的复合多模态AI智能体,统一了Adobe的营销套件并协调端到端客户旅程。Adobe结合使用MongoDB Atlas Search和Atlas Vector Search,为智能体提供所需的低于100毫秒的混合搜索,以实现实时操作。

为智能体记忆定义开放标准

上个月,MongoDB合作伙伴LangChain宣布在LangSmith中推出Context Hub,一个用于存储、版本管理和协作的平台,用于定义智能体行为的文件,如AGENT.md和智能体技能。

但上下文工程不仅仅如此。智能体还依赖于记忆:短期上下文,包括状态、会话和交互历史,以及跨会话持久化的长期记忆。

图1. 使用MongoDB的智能体记忆。

如今,还没有一个被广泛采用的开放标准来定义和管理跨代理框架的可移植代理内存。现在,MongoDB 正与 LangChain 及其生态系统合作伙伴一起,致力于开发一个开放的参考架构,推动这一领域更高的互操作性。

这项工作将有助于填补 AI 生态系统中所缺失的部分:共享接口、元数据惯例、版本控制模式以及用于区分代理体验并塑造代理行为的数据检索语义。

我们的目标是让组织能够在星期二切换模型提供商或尝试新的框架,而不会在星期三花费时间重新编写内存管道。最终,我们希望使代理内存和上下文更容易(且更快)进行管理。

对于面向客户的代理来说,要做出实时决策,例如响应支持请求或更改政策,它们需要即时的上下文信息,而不是可能已经过时 30 分钟的数据仓库信息。上下文层必须是实时的,这是我们为数以万计的客户提供的关键能力,已有近二十年的经验。

MongoDB 的高性能、灵活平台 = 代理成功的关键

下一代代理将越来越多地成为长期运行的系统,运行时间可能长达数小时甚至更久。随着它们承担更复杂的任务,上下文将变得越来越关键,而代理内存将成为使它们有效运行的核心。

这将对多样化的高性能内存系统产生需求,MongoDB 有优势来提供代理所需的灵活性和可扩展性。随着 MongoDB 8.3 的最新发布,我们的核心数据库已进一步演进,以更好地支持 AI 工作负载的速度和需求。MongoDB 还提供了确保代理输出可信所需的检索准确性(对于面向客户的应用程序来说这是不可妥协的),同时在生产环境中优化了令牌使用和成本。

目前,每个 AI 团队都在对代理堆栈的未来做出赌注。那些押注于像 MongoDB 这样灵活且具备生产就绪能力的数据平台的团队,可以在现在进行创新,同时确保未来的结构和韧性,从而能够快速调整方向。而那些押注于僵化的模式设计,或只依赖一些特定模型和框架的团队,可能会发现自己不得不重新设计系统,而不是推出产品。

图 2。MongoDB 灵活模式对 AI 工作负载的优势。

  • MongoDB 专为 AI 而建:JSON 是 AI 的通用语言。代理需要的信息高度动态,可以是结构化、半结构化或非结构化的。MongoDB 提供了数据本身所固有的模式灵活性,并允许附加元数据,以实现更丰富、更精确的上下文。动态、适应性强的模式可以随着想法的快速演变而实时调整,而不会影响其上运行的内容。MongoDB 的文档模型并不是为 AI 量身打造的;它本身就是 AI 数据的自然形态。
  • MongoDB 提供统一的数据平台:所有生产 AI 的数据需求都原生集成。搜索、向量搜索、嵌入、混合检索、时间序列和流处理都运行在同一个 OLTP 基础上,该基础已被 67,000 多家客户用于关键任务应用——通过一个 API、一个安全模型和一个运营足迹。

###### 下一步

要了解为什么最好的 AI 应用程序都是建立在 MongoDB 上,以及为什么 MongoDB 具备开发者创建变革性 AI 体验所需的灵活性、性能和安全性,请参阅 MongoDB for AI。