Apple Machine Learning Research

Shared Selective Persistent Memory for Agentic LLM Systems

8.5内容质量

TL;DR · AI 摘要

苹果提出共享选择性持久内存架构,使代理式LLM系统任务完成率提升至96%,通过分离可复用上下文与会话推理痕迹解决多轮工具使用中的上下文问题。

核心要点

  • 选择性持久内存使任务完成率从71%提升至96%
  • 零令牌数据刷新机制减少重复任务耗时14倍
  • Git版本控制实现无风险修改与状态回溯

结构提纲

按章节快速跳转。

  1. 揭示代理式LLM系统在多轮工具使用中面临的上下文丢失问题及其影响

  2. 提出共享选择性持久内存架构,分离四类可复用上下文与会话推理痕迹

  3. 部署于协作平台,支持git版本控制与多数据源连接器集成

  4. 企业场景测试显示任务完成率提升至96%,零令牌机制减少14倍耗时

  5. 选择性内存优于全历史持久化,避免过时推理痕迹导致的性能退化

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 共享选择性持久内存架构
    • 核心机制
      • 四类可复用上下文分离
      • 会话推理痕迹丢弃
    • 实现平台
      • Git版本控制
      • 多数据源连接器
    • 实验成果
      • 96%任务完成率
      • 14×时间减少

金句 / Highlights

值得收藏与分享的关键句。

#LLM#内存架构#协作平台#Git#Apple
打开原文

用于智能体LLM系统的共享选择性持久内存 - 苹果机器学习研究

研究领域

语音与自然语言处理

,

工具、平台、框架

会议

EMNLP

内容类型

论文

发布日期

2026年9月

用于智能体LLM系统的共享选择性持久内存

作者 Sanjana Pedada, Aditya Dhavala, Neelraj Patil

查看出版物

复制Bibtex

通过多轮工具使用生成代码的智能体LLM系统面临一个根本性的上下文问题:每次会话都从零开始,丢弃了使之前会话具有生产力的配置选择、领域约束、数据模式和工具使用模式。天真地持久化整个对话历史既低效又适得其反——无关的上下文会降低生成质量。我们引入共享选择性持久内存,这是一种为智能体系统设计的内存架构,能够识别并保留四类可复用的上下文——任务规范、数据模式、工具配置和输出约束,同时丢弃特定会话的推理轨迹。关键的是,这种内存是共享的:封装选择性内存的工作空间可以通过基于角色的访问控制在用户之间转移,实现协作复用积累的上下文而无需重复指定。我们在一个部署的协作工作平台中实现了这种架构,其中LLM代理从通过多种连接器类型(CSV上传、SQL、REST API和MCP服务器)访问的异构数据源中生成、编辑和维护git版本化的工件——包括交互式仪表板、结构化报告和数据驱动文档。基于git的版本控制与草稿隔离功能使用户可以无风险地探索修改并恢复到任何先前状态而无需重新调用模型。互补的零令牌数据刷新机制将生成的程序与运行时数据解耦,实现工件复用而无需重新调用。在三个企业部署场景中,共享选择性持久内存实现了96%的任务完成率(无内存时为79%,完整历史记录时为71%)。互补的零令牌数据刷新机制完全消除了重复数据更新时的LLM重新调用(任务时间减少14倍),而摘要驱动的生成相比原始数据注入将每次调用的令牌成本降低了97倍。在四个公开数据集上的复现验证了通用性,零令牌刷新在12/12次试验中均成功。值得注意的是,天真的完整历史记录持久化会通过用过时的推理轨迹偏倚智能体,主动降低任务完成率,而选择性内存的表现优于这两种极端情况。

相关阅读和更新

Agent Seer:从规范理解中合成场景

2026年8月28日 研究领域 数据科学与标注 ,研究领域 工具、平台、框架

评估使用外部工具的AI代理需要能够捕捉从业者如何组合工具并在对话轮次间迭代的真实测试场景。手动构建此类场景需要深厚的领域专业知识,无法跨工具生态系统扩展,并且会产生无法跟踪演变API的静态基准。我们观察到工具规范——函数名称、自然语言描述和类型化参数……

阅读更多

少即是多:面向多类型调用的设备定向语音检测统一架构

/think

June 8, 2023 研究领域 方法与算法 ,研究领域 语音与自然语言处理 会议 ICASSP

由于语音听起来像唤醒词或意外按键导致的设备误唤醒,会严重影响用户体验,这一问题被称为误触发缓解(False-Trigger-Mitigation,FTM)。在存在多种唤醒方式的情况下,传统FTM方法是使用针对每次唤醒的特定模型,或使用统一模型处理所有唤醒场景。这两种方法都存在局限性:前者的内存消耗会随着模型数量增加而显著增长……

在机器学习中发现机遇

我们的机器学习研究每天都在取得突破性进展

与我们合作