递归自我改进(RSI)的讨论大多默认一件事:模型想变得更聪明,就得动自己的权重,今年 6 月 Anthropic 还专门发文讨论过自我改进的"刹车时刻"。而出现在 Hugging Face 论文热榜上的 Memento 3 给出了另一条路:LLM 冻结不动,把"变聪明"外包给一份外挂的自然语言规则手册。
规则手册:一份可修订的世界模型
按论文设计,冻结的 LLM 智能体维护一份自然语言规则手册作为持久语义记忆:记录对环境动力学的可修订假设,没观察到的部分明确留白。智能体把手册编译成可执行代码做预测与规划,再进入"观察—反思—修订规则—编译—验证"的持续循环,用预测误差同时打磨规则和代码。
更新并不是想写就写:新代码要过两道门——LLM 判断它与规则手册语义忠实,且逐格重放能精确复现观测到的状态转移,才会被接受。这等于给自我改进配上了回归测试,写歪的假设进不了长期记忆。论文还提供种群扩展:并行维护多个世界模型、共享交互证据,用各自预测引导探索。
通关 ARC-AGI-3 与 21:0
按论文报告,单模型智能体在 ARC-AGI-3 公开集通关全部 25 个游戏,平均相对人类动作效率(RHAE)100.0,动作数仅为人类的 44%。Atari Pong 案例中,学出的反馈控制器在三局不同开局下全部 21:0 取胜,而且此后不再调用 LLM——世界模型一旦学成,自己就能接管决策。
泼冷水:日记还是学习?
HF 社区讨论里有条冷静的质疑:能落进散文式规则的,只有模型能明确表述的修复;现实中很多可靠性问题得靠 schema 级硬约束解决,散文备忘录做不到。归因也是黑洞——规则生效、任务通过,是规则的功劳还是重试的运气?没有"关掉规则重跑"的消融,你建的可能只是一本昂贵的日记。
但这个方向值得盯:权重不动、改进外置、每次更新可审计可回滚,恰好贴合企业真实部署里"冻结 API 模型+外部记忆"的形态。当 RSI 争论还在担心模型改写自己,Memento 3 把自我改进变成了一份能打开检查的手册。真正的问题是:你敢把多大决策权,交给一本自己会长的规则书?