Introducing Agent Memory on Databricks
TL;DR · AI 摘要
Databricks推出Agent Memory技术,通过MemCurrent架构实现代理记忆功能,使企业级任务处理效率提升3倍且减少31%的token消耗。
核心要点
- MemCurrent架构包含插件、按需工具和离线梦境流水线三类访问模式
- 内部基准测试显示真实企业任务通过率提升300%
- Lakebase提供低延迟存储保障
结构提纲
按章节快速跳转。
- §引言
Databricks发布Agent Memory技术,解决代理开发中的记忆存储难题。
- ·核心问题
无状态代理存在重复计算和无法记住用户偏好两大痛点。
结合插件、按需工具和离线流水线实现记忆存储与检索。
- ·技术实现
基于Lakebase实现低延迟存储,内部测试提升300%任务通过率。
- ›基准测试
对比实验显示记忆方案减少12倍输入token消耗。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- Agent Memory技术
- 核心价值
- 提升代理质量/降低成本/减少延迟
- 技术架构
- MemCurrent三模式
- Lakebase存储
- 测试成果
- 300%任务通过率提升
- 31% token节省
金句 / Highlights
值得收藏与分享的关键句。
内部基准测试显示,MemCurrent架构使企业任务处理效率提升3倍且减少31%的token消耗
无状态代理在重复任务中需重新执行11次工具调用和8个子代理交互
完整上下文记忆方案在长历史场景下表现比优化记忆方案差37%
在 Databricks 上引入 Agent Memory | Databricks 博客
跳至主要内容
平台
2026 年 10 月 20 日
在 Databricks 上引入 Agent Memory
作者:Sirui Sun 和 Nihit Desai
今天,我们在 Databricks 的 Agent Bricks 平台上推出了 Agent Memory 功能。Agent Memory 通过存储代理应记住的关键事实、偏好和工作流程,从而提高代理质量,同时降低成本和延迟。该功能今天已进入 Beta 阶段,基于 Lakebase 运行以实现高可靠性和低延迟,并建立在 Databricks 最新的内存研究之上。
没有内存的代理存在重新发现关键事实、忘记用户偏好以及重复已纠正错误的风险。为应对这一问题,许多开发者正在自行构建内存解决方案,但会遇到诸多设计问题——例如,记忆应存储在哪里?记忆应如何合成?生成后又该如何检索?
为解决这些问题,Databricks Agent Memory 基于 Databricks Research 首创的 MemCurrent 架构构建。MemCurrent 结合了三种访问模式:用于自动记录和加载上下文的插件、代理按需调用的工具,以及一个在后台整合内存的离线“梦境”流水线。所有这些功能都通过 Lakebase 实现极低延迟。在我们的内部基准测试中,采用这种内存架构使代理在真实企业任务中的通过率提高了三倍,同时减少了 31% 的 token 使用量。
Agent Memory 现已加入 Agent Bricks 的其他功能,包括代理托管、Databricks Sandbox、Unity Gateway、预构建的 MCP 服务器以及追踪和评估功能,为开发者提供构建生产级代理所需的所有基础设施能力。
问题:无状态代理会重复支付相同的上下文成本
一旦代理从演示环境转移到日常使用,就会出现两个问题。
- 每次重新发现都会推高成本。无状态代理需要重新推导昨天得出的结论:哪个表存储了使用数据、某个内部缩写词的含义、哪个连接实际上有效。在我们研究的一个真实会话中,代理需要 11 次工具调用、8 个子代理和近六分钟时间才能回答关于某个产品顶级客户的问题。第二天,它将再次重复所有这些操作。
- 代理永远无法个性化。用户声明偏好、纠正错误或解释团队如何定义指标后,代理会在会话结束时忘记这些信息。用户要么需要重复说明,要么代理会重复错误。
代理开发者和运行代理的平台团队通常有两种变通方法。每种方法都会用另一个问题替换原有问题:
- 将完整历史记录回放至上下文在历史记录较短时有效。在开源内存基准测试中,完整上下文每问题使用的输入 token 数量是设计良好的内存系统的 12 倍,且在最长历史记录中表现更差,因为无关对话会干扰代理。
- 在对象存储或向量数据库中自行构建内存意味着需要管理提取、去重、检索和访问控制。记忆会过时,矛盾事实堆积,且无人能确定是哪段记忆导致了错误回答。
团队真正需要的是既能降低代理成本又能实现个性化的内存系统,而无需再搭建另一套系统来实现。
图1. Agent Bricks上的智能体记忆。智能体将每次交互追加到托管会话中,直接调用和保存记忆,后台的记忆管道将对话提炼为长期记忆。
Agent Memory包含三个组成部分:
- 托管会话以您框架的原生格式记录每次对话的有序历史,包括消息、工具调用和结果。
- 管理记忆保存有价值的信息:用户画像、偏好设置、领域知识和工作流程。会话开始时,智能体会从记忆中加载已知信息的索引。会话过程中,它通过混合关键词和语义搜索查找细节。
- 记忆管道在后台按需或定期运行,将对话提炼为记忆。它们提取持久事实和偏好,去除重复内容,并替换与较新对话矛盾的事实。
所有功能均运行在Lakebase上,这是Databricks提供的无服务器Postgres数据库,部署在您的工作区并由Databricks运营。这确保了记忆的存储和检索速度极快,且您的存储规模可随智能体流量增长而扩展。
基于我们的记忆研究
Agent Memory是MemCurrent的生产级实现,这是《MemCurrent:为企业智能体设计记忆系统》中描述的记忆系统。我们的研究人员的核心发现是,记忆的最佳实现方式是分层结构:一层是原始事件记录,另一层是提炼出的有价值信息记录,通过后台进程保持更新,而非在任务执行过程中临时写入。
采用这种架构后,记忆同时提升了质量和效率。配备记忆的智能体完成的任务量是未配备记忆智能体的三倍,执行速度更快,消耗的token更少。相同的基础架构已用于Genie,这是Databricks为商业用户提供的自然语言交互体验。
图2. 配备和未配备记忆的智能体在Databricks内部记忆基准测试中的表现(企业数据任务)。来源:MemCurrent研究。
您的智能体将发生的变化
- 每项任务的成本降低。智能体可以跳过已执行的工作。以上示例中,工作流保存到记忆后,智能体仅用2次工具调用和41秒就回答了相关后续问题,相比之前的11次工具调用和近6分钟。
- 持续的个性化体验。偏好设置、更正内容和团队特定定义在会话间保持一致,按用户范围限定,人们不再需要重复说明。
- 持续改进的错误修正。智能体会记住自己的错误,避免重复犯错,节省宝贵的时间和token消耗。
- 您拥有并控制的记忆。会话和记忆存储在您的Lakebase项目中,独立于任何单一智能体框架。开发者可以读取、导出和删除智能体为每个用户保存的记录,并为记忆管道设置指导规则,例如"保留持久客户偏好,忽略一次性调试注释"。
- 整个流程的统一平台。相同的智能体通过Unity Gateway调用模型,使用Agent Bricks CLI进行部署,并通过Agent Bricks的追踪功能进行追踪和评估,包含记忆模块。
入门指南
您无需新增任何基础设施即可实现这些功能。Agent Bricks CLI可在几分钟内帮助您部署带有记忆和会话功能的智能体。
从此以后,您的代理与每位用户的下一次对话都将基于从前对话中学习到的内容。如需了解更多详情,请参阅快速入门指南创建带有记忆功能的新代理,或查看我们关于为现有代理添加记忆功能的教程。
Agent Memory 是 Agent Bricks 的一部分,Agent Bricks 是 Databricks 提供的代理开发平台,用于大规模构建、运行和改进自定义代理,支持任意模型、框架或工具链。探索 Agent Bricks 以了解平台的其他功能。
更多资源
- 使用 Agent Bricks CLI 文档在 10 分钟内构建一个有状态的代理。
- 使用代理记忆和会话文档为现有代理添加记忆和会话功能。
- 在 MemCurrent: Designing Memory for Enterprise Agents 中阅读相关研究。
订阅获取最新文章
订阅我们的博客,获取最新文章直接发送到您的邮箱。
注册
查看所有博客
slice-start id="_gatsby-scripts-1"
slice-end id="_gatsby-scripts-1"