9.3

2026-09-03

星期四

放弃 compact

我决定放弃 codex 的自动压缩机制,转向新开发的实验功能 TokenBudget,但是因为神秘未知原因,官方后端服务不通,所以让 codex 在本地搓了服务,提供 notes 和 history 功能。基本上 TokenBudget 就是让模型通过 notes 工具维护一份 checkpoint.md,在上下文窗口跑满后把 checkpoint.md 的内容装进上下文,但原始的记录并未丢掉,而是可以通过 history 查询。

服务跑在本地的一个好处是,能看到 codex 到底往 notes 里放了什么。一个有趣的现象是,我还未观察到某个对话中调用了 history 工具。

另外,把 context window 大小从默认的 272k 上调到了 310k,考虑到 90% 的自动压缩线,和 TokenBudget 会在上下文接近耗尽前提醒 codex 保存 checkpoint.md,实际上可用上下文大小可以认为是从 245k 上调到了 263k,并没有很大的变化。

我很好奇这样的土制上下文管理是否好过 compaction,让 codex 减缓变笨的速度。

更新:它们确实会用 history 工具!

最新评论

--