一个 27B 参数的开源模型,在机器学习工程基准 MLE-bench Lite 上拿下 81.8 分,把评测表里的全部闭源旗舰——GPT-5.6 Sol、Claude Opus 4.8、GPT-5.5——压在身后;而它的参数量,大约只有 2.8T 的 Kimi-K3 的百分之一。这就是智源研究院(BAAI)的 AREX-2:Apache 2.0 许可,权重挂在 Hugging Face,论文编号 2609.38288 九月就已挂出,本周却在海外开发者社区集中走红——daily.dev 的解读帖拿下 538 个 upvote,知名 AI 博主 Sam Witteveen 专门出了视频。
循环本来不在模型里
论文开篇就把行业现状挑明了:在大多数 agent 系统里,重试循环主要实现在脚手架(scaffold)上——harness 决定什么时候重试、保留什么,模型只负责一次产出一个尝试。AREX-2 把问题反了过来:怎么把循环搬进模型本体。模型自己跑「提出—度量—反思—修正」的多轮循环,而且轮数预算和墙钟时间会直接告诉它,量级是数小时、每个任务数百次工具调用。论文里的细节很有意思:知道预算有多大,模型会先建立 baseline,用早期轮次做度量,把修正留到后期——而不是一口气交出最好的猜测。这就是它对自我改进的定义:在单个任务内,把更多轮次变成更好的解,本质是任务内的 test-time scaling。
训练数据:保留失败的轨迹
方法层最有味道的是数据构造。教师模型把 GitHub 仓库和在线判题题库编译成可执行环境(任务加打分函数);agent 在环境里多轮迭代;轨迹按整体取舍——最终分数高、过程合规就整条保留,不要求每一轮都成功。失败的运行、倒退、被放弃的路线全部留在训练数据里,论文的理由很直接:留着它们,模型才学得会受挫之后继续迭代。训练本身,是在这些轨迹与 AREX 既有深度研究数据的混合上微调 Qwen3.8-27B——论文写的词是 fine-tune,方法部分没有强化学习的影子;daily.dev 的解读也点破了这层窗户纸:发布文案里写着 reinforcing,实际做的是监督微调。要强调的是,这种自我改进只发生在测试时——权重在任务之间不变,离递归自我改进还差把轨迹喂回训练那一步,论文结论里把这一步明明白白列为下一步。
跑分要连着口径一起读
按模型卡:MLE-bench Lite(三种子平均的 Any Medal)81.8,是对比表内最高——GPT-5.6 Sol 72.7、Kimi-K3(2.8T)72.7、Naive-N0.5-Flash(309B)73.7、Claude Opus 4.8 63.6;Frontier-CS(188 任务 Agent Track)70.7 是开源阵营最高,但低于 Sol 的 76.4、Opus 的 74.5、GPT-5.5 的 72.1。深度研究侧没加任何新训练数据:BrowseComp 84.0、HLE 52.6(text-only 子集口径)、GAIA 92.2、DeepSearchQA 93.8——GAIA 这项超过表内全部闭源模型(最高 GPT-5.5 的 87.4),但同表 35B 的 XYZ-Aquila-mini 还有 97.1,谈碾压为时过早。消融更能说明机制:基座裸跑 28.8,加通用技能到 41.2,任务特定技能加更多轮次(仍未训练)到 68.2,换成训练后的 AREX-2 到 81.8——训练净贡献 13.6 分;训练后的模型用更少轮次反超未训练多轮版 7.6 分;轮次继续加,还能再涨 6.0 分,Frontier-CS 上一路涨到第五个小时。
三个判断
第一,长程任务上参数量不是瓶颈,轨迹数据的形态才是——2.8T 的 Kimi-K3 与 1.6T 的 DeepSeek-V4-Pro(54.5)都被 27B 甩开,差的是整条改进轨迹这种数据,不是算力堆出来的参数。第二,这是对外挂 harness 路线的一次正面叫板:平台九月刚报道过 DeepSeek 把 Agent 拆成插件栈的外挂式 Harness,智源这波把循环直接焊进权重——循环到底住在 harness 里还是模型里,两条路线现在都有人重注押注。第三,别把 test-time 自我改进传话成 RSI:权重不变,任务之间不积累;论文自己说,让模型自己的轨迹成为下一份训练数据,才是递归的起点。
复现口径也放得很开:VectorSpaceLab/AREX-2 仓库(49 star、80 commits)给了六个赛道的评测 runner 和数据集定义,深度研究四项基准共享同一套默认设置。对做 agent 的人来说,该问的问题正在换:从「我的 harness 写得好不好」,变成「我的模型会不会自己变好」。