把一整本书塞进上下文窗口,然后祈祷模型自己记得住重点——这是长文档问答最常见的做法,也是最贵的做法。哥伦比亚大学团队给出的数据说明,问题可能不在窗口大小,而在于「记笔记」这件事本身从没被训练出来。

论文叫 Memento: Learning Context Management for Long Context Processing Agents,2026 年 10 月 30 日挂上 arXiv(arXiv:2611.00244)。任务设定很具体:整本书的多跳问答。数据里 90% 的书超过 5.1 万个 Qwen3 token,70% 超过 9 万,最长的一本 250 万 token。而训练用的模型上下文只有 16K 到 20K——也就是说,一个合格的智能体必须自己把进度带过几十个窗口。

问题出在笔记写不对

论文给了一个扎心的观察:现成的智能体模型不会记笔记。GPT-5.5 在 337 条测试集上一条压缩笔记都没写过;GLM-5.3 在训练集上跑了 1.2 万条 rollout,没有一条包含有效笔记;Qwen3-8B 稍好一些,但也爱把一模一样的笔记连着写两遍,只有约 6% 的轨迹是有效的。

更麻烦的是,光靠 RL 训练不出这个行为。原因是探索:策略如果从来没采样到过好的笔记写法,RL 就没有东西可以强化。论文观察到,没有 SFT 预热的策略在 RL 开始后 20 步内就把压缩频率降到接近零,然后彻底放弃这项技能。

两段式训练

解决办法是先用合成数据把行为演示出来,再让 RL 把它变可靠。

第一步是 SFT 冷启动。论文让 GLM-5.3 在自己的 harness 里跑出正确轨迹,再事后注入压缩笔记——要求它总结关键发现、要避免的错误、下一步计划,不合格的笔记重新采样,搜索动作和最终答案保持不动。过滤后大约 6K 条轨迹拿来微调 Qwen3-8B。

第二步是 RL 强化,用 GRPO,奖励由四项组成:格式合规(作为总闸门,不合规其余奖励全部归零)、笔记有效性、答案正确性、以及用负 Brier 分数衡量的置信度校准。笔记有效性有三条硬性启发式:每个非末尾窗口至少一条笔记、总数少于五条;笔记不能是窗口内的第一次工具调用,也不能紧跟在另一条笔记后面;任意两条笔记的 token 集合相似度不能超过 80%。

关键在训练与推理的解耦:训练时只会「压缩进新窗口」这一种操作,但同一套笔记结构在推理时可以直接切换到另外两种策略——上下文折叠(额外保留最新笔记之后的对话轮次)和基于置信度的回溯(答案置信度低时,退回早前的笔记检查点重新生成)。

数字

在 LiteraryQA、NovelHopQA、SagaScale(英文子集)上训练与评测,NovelQA 完全留出做泛化测试,测试集共 4.7K 题。原始 Qwen3-8B 智能体准确率 36.9%,完整系统达到 67.8%,全程上下文占用不超过 2 万 token。

对照组更刺眼。论文报告:753B 的 GLM-5.3 在同一 harness 下 69.3%,成本约为 Memento 的 9 倍;把整本书直接塞进 GLM-5.3 的窗口能到 74.3%,高出 6.4 个点,但推理成本超过 26 倍。GPT-5.5 在同一 harness 下只有 13.1%——不过论文给了原因:它只有 21.4% 的 rollout 能输出可解析的最终答案,且从不调用笔记工具,即便修正输出格式也只有 57.1%,成本还高出 54 倍。这里得说明,GPT-5.5 因 API 成本限制每个数据集最多只测 100 题,SagaScale 测试集本身也只有 37 题,噪声不小。

消融数据把「为什么两段式缺一不可」摊开了:单窗口下未训练 29.6%、SFT 34.4%、SFT+RL 58.6%;加上上下文折叠变成 32.6% / 46.6% / 66.9%;再加置信度回溯则是 36.9% / 59.1% / 67.8%。SFT 单独不够,因为它会过度压缩、在跨窗口时累积错误;RL 单独也不够,因为它采不到可强化的样本。

我的判断

这篇论文真正有意思的地方不是「8B 打败了 GPT-5.5」——那个对比有很强的 harness 依赖,GPT-5.5 的低分主要来自它没被教会用这套笔记工具,论文自己也把这点写在了正文里。

真正值得记下来的是两条。

第一条,上下文管理不是提示词工程,而是一项可训练的能力。行业普遍的假设是「长上下文靠更大的窗口解决」,但这篇论文给出的成本曲线是:买窗口要付 26 倍的钱,学压缩只要 9 分之一。对长文档检索、代码库理解这类要反复读大量材料的场景,这笔账很好算。

第二条,顺序比配方更重要。RL 在这里的失败方式非常典型——不是训不好,而是根本训不起来,因为探索空间里没有可强化的样本。SFT 的作用不是提升准确率本身(论文指出,RL 开始时有没有 SFT 初始化,验证准确率几乎一样),而是先把策略推到 RL 能采到好样本的区域。这对任何「要用 RL 训出模型原本不会的行为」的场景都是通用提醒。

当然这篇也有明显边界:只做了英文整本书问答,答案短,还依赖 LLM judge 判分;笔记有效性靠手工启发式,未必等于真的有用;训练只覆盖了压缩进新窗口这单一操作,折叠和回溯完全靠推理时迁移。所以它证明的是「这条路线可行」,不是「这条路线已经解决」。

上下文窗口这条军备竞赛,可能正在被另一条路线悄悄绕过去:不是让模型装得下更多,而是让它学会扔掉大部分。