宝玉(@dotey)

频繁到 80% 并不是什么大问题，compact 并不会频繁执行，因为执行太多一方面影响正在执行任务上下文准确性（也许压缩后，需要重新补充上下文），一方面也不能充分利用 Prompt Caching。...

8.5内容质量
频繁到 80% 并不是什么大问题，compact 并不会频繁执行，因为执行太多一方面影响正在执行任务上下文准确性（也许压缩后，需要重新补充上下文），一方面也不能充分利用 Prompt Caching。...

TL;DR · AI 摘要

Codex上下文优化策略：无需频繁compact，合理使用handoff和Prompt Caching可保持性能，模型自身处理能力已足够强。

核心要点

  • Codex上下文压缩机制可减少80%token消耗，无需频繁执行compact
  • 生成handoff作为新session首条信息可节省token并保持上下文质量
  • 信任模型处理能力，设置验证机制减少人工干预

结构提纲

按章节快速跳转。

  1. §上下文处理机制

    现代模型已具备强大长上下文处理能力，Harness层会补充关键提示信息。

  2. ·compact使用策略

    频繁compact影响上下文准确性，且无法充分利用Prompt Caching。

  3. ›handoff优化方案

    生成handoff作为新session首条信息可节省token并保持上下文质量。

  4. ·验证机制设计

    设置验证规则减少模型试错，避免过度人工干预。

思维导图

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）
  • Codex上下文优化策略
    • 核心机制
      • Harness层提示补充
      • Prompt Caching利用
    • 优化方案
      • handoff生成方法
      • compact使用原则
    • 实践建议
      • 验证机制设置
      • 跨Agent session适用性

金句 / Highlights

值得收藏与分享的关键句。

#Codex#Prompt Caching#上下文优化#AI模型#token管理
打开原文

宝玉 on X: "频繁到 80% 并不是什么大问题，compact 并不会频繁执行，因为执行太多一方面影响正在执行任务上下文准确性（也许压缩后，需要重新补充上下文），一方面也不能充分利用 Prompt Caching。https://t.co/ULOf2TZefe 并不用太担心上下文 80% 影响性能的问题，因为现在模型处理长上下文能力已经很强，Harness 层也会补充一些提示信息，最新要做的事都在 prompt 最后的位置，能保证模型执行当前任务的注意力，所以对任务执行影响不大。 Handoff 并不能解决这种问题，只能适当缓解，因为新开session 也会很快因为补充上下文又会满。你不可能一直盯着它也没必要。 最佳方式就是相信它能自己处理好，设置好如何验证让它少走弯路少人工干预才是最佳使用方式。" / X

宝玉

@dotey

12h

为了节约上下文 handoff 新开 Session，这在半年一年前是很好的实践，现在没太有必要，因为 codex 自己上下文压缩做的很好了，或者 /compact 一下继续就足够了。 当然如果关系不大的任务，还是新开 Session 更好。 当然除此之外 handoff 还是适用于跨 Agent session 的，比如 Claude Code

Show more

Tz

@Tz_2022

18h

摸索出一个在 codex 里做连续任务节省大量 token 消耗且不损失上下文质量的极简方法。。。 一共就两步： 第一步，在一项任务完成后用以下提示词： 请针对 [任务描述] 给我一个 handoff，用于后续任务开发 第二步，开新对话 session，把生成的 handoff 作为第一条信息发给 AI，开始做后续任务即可

31

10

79

19K