Sequoia Capital视频
Memory and Continual Learning: Engram's Dan Biderman and Jessy Lin
7.0内容质量
可直接观看的视频资源打开原视频
TL;DR · AI 摘要
Engram 团队探讨了持续学习与记忆在 AI 模型中的重要性，强调模型应始终处于训练状态以适应新任务。
核心要点
- 模型的持续学习能力是提升其在新任务中表现的关键。
- 传统预训练和微调方式难以适应动态变化的上下文。
- Engram 倾向于通过持续训练而非外部数据库来实现记忆和学习。
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- 持续学习与记忆
- 当前模型的局限性
- 难以适应新任务
- 依赖预训练和微调
- Engram 的方法
- 持续训练模型
- 避免使用外部数据库
金句 / Highlights
值得收藏与分享的关键句。
We think like these kinds of things like tool use, context engineering, and so on are going to be the way forward.
The bottleneck for making these models more useful these days is not really raw intelligence, but understanding new and evolving context.
How do you bake that into the model weights the same way that you know pre-training and post-training bakes into the model weights very deeply?
#AI#持续学习#记忆模型#Engram