Shared Selective Persistent Memory for Agentic LLM Systems
TL;DR · AI 摘要
苹果提出共享选择性持久内存架构,使代理式LLM系统任务完成率提升至96%,通过分离可复用上下文与会话推理痕迹解决多轮工具使用中的上下文问题。
核心要点
- 选择性持久内存使任务完成率从71%提升至96%
- 零令牌数据刷新机制减少重复任务耗时14倍
- Git版本控制实现无风险修改与状态回溯
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- 共享选择性持久内存架构
- 核心机制
- 四类可复用上下文分离
- 会话推理痕迹丢弃
- 实现平台
- Git版本控制
- 多数据源连接器
- 实验成果
- 96%任务完成率
- 14×时间减少
金句 / Highlights
值得收藏与分享的关键句。
共享选择性持久内存使任务完成率从79%(无内存)提升至96%
零令牌数据刷新机制实现14×任务时间减少,无需模型重新调用
选择性内存优于全历史持久化,后者导致任务完成率下降至71%
用于智能体LLM系统的共享选择性持久内存 - 苹果机器学习研究
研究领域
语音与自然语言处理
,
工具、平台、框架
会议
EMNLP
内容类型
论文
发布日期
2026年9月
用于智能体LLM系统的共享选择性持久内存
作者 Sanjana Pedada, Aditya Dhavala, Neelraj Patil
查看出版物
复制Bibtex
通过多轮工具使用生成代码的智能体LLM系统面临一个根本性的上下文问题:每次会话都从零开始,丢弃了使之前会话具有生产力的配置选择、领域约束、数据模式和工具使用模式。天真地持久化整个对话历史既低效又适得其反——无关的上下文会降低生成质量。我们引入共享选择性持久内存,这是一种为智能体系统设计的内存架构,能够识别并保留四类可复用的上下文——任务规范、数据模式、工具配置和输出约束,同时丢弃特定会话的推理轨迹。关键的是,这种内存是共享的:封装选择性内存的工作空间可以通过基于角色的访问控制在用户之间转移,实现协作复用积累的上下文而无需重复指定。我们在一个部署的协作工作平台中实现了这种架构,其中LLM代理从通过多种连接器类型(CSV上传、SQL、REST API和MCP服务器)访问的异构数据源中生成、编辑和维护git版本化的工件——包括交互式仪表板、结构化报告和数据驱动文档。基于git的版本控制与草稿隔离功能使用户可以无风险地探索修改并恢复到任何先前状态而无需重新调用模型。互补的零令牌数据刷新机制将生成的程序与运行时数据解耦,实现工件复用而无需重新调用。在三个企业部署场景中,共享选择性持久内存实现了96%的任务完成率(无内存时为79%,完整历史记录时为71%)。互补的零令牌数据刷新机制完全消除了重复数据更新时的LLM重新调用(任务时间减少14倍),而摘要驱动的生成相比原始数据注入将每次调用的令牌成本降低了97倍。在四个公开数据集上的复现验证了通用性,零令牌刷新在12/12次试验中均成功。值得注意的是,天真的完整历史记录持久化会通过用过时的推理轨迹偏倚智能体,主动降低任务完成率,而选择性内存的表现优于这两种极端情况。
相关阅读和更新
Agent Seer:从规范理解中合成场景
2026年8月28日 研究领域 数据科学与标注 ,研究领域 工具、平台、框架
评估使用外部工具的AI代理需要能够捕捉从业者如何组合工具并在对话轮次间迭代的真实测试场景。手动构建此类场景需要深厚的领域专业知识,无法跨工具生态系统扩展,并且会产生无法跟踪演变API的静态基准。我们观察到工具规范——函数名称、自然语言描述和类型化参数……
阅读更多
少即是多:面向多类型调用的设备定向语音检测统一架构
/think
June 8, 2023 研究领域 方法与算法 ,研究领域 语音与自然语言处理 会议 ICASSP
由于语音听起来像唤醒词或意外按键导致的设备误唤醒,会严重影响用户体验,这一问题被称为误触发缓解(False-Trigger-Mitigation,FTM)。在存在多种唤醒方式的情况下,传统FTM方法是使用针对每次唤醒的特定模型,或使用统一模型处理所有唤醒场景。这两种方法都存在局限性:前者的内存消耗会随着模型数量增加而显著增长……
在机器学习中发现机遇
我们的机器学习研究每天都在取得突破性进展
与我们合作