推理模型"想太多"是个老毛病:答案早算出来了,还在反复验算。常规解法是加一句系统提示词——"简洁点,别重复检查"。但四个 MoE 推理模型、四个基准的十六组设置里,这种提示词的省 token 效果没有一组比得上直接改路由器;路由器干预中位数省 30.4%,最好一组 63.3%(arXiv:2611.05919)。

另一半反着来:直觉上该砍的是"反思",实测砍它反而让轨迹变长 5%;能缩短轨迹的是砍规划。

路由器是天然的行为仪表盘

给推理过程逐段打上"这一步在干什么"的标签,再看内部路由能不能读出这个标签。行为分六类:规划、执行、复述、事实、反思、结论。标注用 GPT-5.5 当裁判,把 GSM8K、NuminaMath、AIME 2023 的 330 条推理轨迹切成句级或子句级片段,共 78,955 个带标签片段。在 Qwen3-30B-A3B 上做线性探针,读单层 128 个 pre-top-k 路由 logit:L12 层 macro-F1 是 0.608,"永远猜最常见的行为"只有 0.096。对照的 2048 维残差流,最好单层 L14 为 0.658;路由侧把 L8–L16 九层拼起来是 1,152 维、0.659,宽度只有残差流的 56%。控制实验显示,同样九层的残差流压到 1,152 维只有 0.657——差距不是"层多就好"。

这个探针不是靠表面措辞:片段级对比里路由特征 0.709,高于输入嵌入 0.624、TF-IDF 0.566 和轨迹位置 0.124;丢掉开头五个 token 再池化仍有 0.677。

行为和专家的绑定能跨领域复用

作者用 1,980 条 Qwen3-30B-A3B 轨迹检验(覆盖数学、代码、科学、知识、常识)。

第 12 层上,同一行为的专家画像相关系数 0.729,不同行为是 -0.107;各数据集 top-10 专家集合的平均 Jaccard 相似度 0.511,打乱标签做零假设只有 0.202。规划、反思、结论三种行为,六个数据集共享各自 top-10 里的 6 个专家,承载 15%–23% 的路由流量。跨域迁移更硬:第 36 层上用源数据集选出的专家集合给目标数据集排序,平均 AUC 0.768。反思 0.863、结论 0.811、复述 0.745,执行最弱只有 0.631。

改路由,确实省 token

推理时把 logit 转成 log-softmax,压制的专家压到最低值减一个 margin,激活的提到最高值加 margin,让模型重算门控——不动权重不重训。模型是 Gemma-4-26B-A4B-it、Qwen3-30B-A3B、Qwen3.6-35B-A3B、GPT-OSS-120B,基准 MATH500、AIME 2026、GPQA-Diamond、AICrypto,数学题答案由 DeepSeek-V4 Flash 当裁判判分。

十六组设置全部省下 token,中位数 30.4%,最好一组是 Qwen3.6 在 AICrypto 上的 63.3%;准确率上十四组持平或更高,剩下两组最多掉 0.5 个百分点。省得最狠的是较简单的 MATH500 和 AICrypto(平均 43.2%),AIME 和 GPQA-Diamond 只有 24.9%。

两个对照让结果站得住。一是随机专家:同等规模的随机专家集合接受同样干预,十六组里有十四组反而让 token 变多——省下的算力来自选对专家。二是提示词:写一句"简洁、别重复检查"的系统提示词,省 token 效果十六组里全部不如路由干预。

反直觉:该砍规划,不是砍反思

一百道 MATH500 题、Qwen3-30B-A3B 上的逐行为对照:压 200 个规划专家,token 掉 22%;压反思专家,轨迹变长 5%;压复述变长 1%,答案之后的复查轮次还翻倍以上;压执行变长 52%,下手重一点准确率掉到 40%。

机制很明确:每一轮复查都由一句新的计划开头——"再查一遍""换个思路"。所以压掉规划不是让模型停止规划,而是把下一个计划从"开启新一轮"改写成"就此收尾",整轮连同里面的行为一起消失。压反思没用:模型嘴上不多说疑心了,但发起每一轮的规划还在,轮数照旧。

时机也对得上:首个答案出现得很早,中位数占 Qwen3.6 轨迹的 8%、Qwen3 的 11%、Gemma-4 的 21%,而 82%–88% 的规划句在其后。切割实验证实——只在首个答案之后干预,之前的推理几乎原样保留(首个答案出现在第 422 个 token 而非 441 个),单靠这一段就复现了整条轨迹的效果,准确率从 84% 提到 97%。

再往下,论文数了 314 个"即将开启新阶段"的切点:未干预时"开新角度"和"收尾"是 23 比 23,压掉规划后收尾 68 比 11,模型在这约 170 个 token 内结束思考的比例从 5% 升到 17%。只压紧邻的一小段则收尾倾向仍在(43 比 21)但结束率几乎不变(6% 对 5%)——干预得一直挂着。

三个还没解决的问题

标注只有一个裁判。全部标签来自单个 LLM 裁判 GPT-5.5,论文没报人类一致性,而规划与反思的边界本就模糊。这也是效率不是能力:论文写明激活行为关联的专家并不能可靠地提升准确率,路由器是"花多少算力"的旋钮,不是"能不能答对"的旋钮。

规模没验证。论文覆盖的模型止于 GPT-OSS 的 120B,而开源 MoE 已到几百亿到上万亿参数。代码以 MIT 许可证开源在 GitHub(swang-ai/reasoning-moe),但仓库 11 月 4 日才建立,star 还是 0。

所以呢

真正值钱的可能不是那 30.4%,而是"路由 logit 能读出推理状态"本身——给 MoE 模型挂上几百维探针,就能实时知道它此刻在规划、在执行还是反复怀疑。对做 Agent 的人来说这才是可观测性。

另一半提醒很扎心:给后训练出来的推理模型写"请简洁一点",效果接近安慰剂——十六组对照说明系统提示词对后训练养成的验证习惯几乎没有约束力。想省算力,得找到具体那个控制点。

但别急着上生产:模型必须是稀疏 MoE,你得能拿到 router logits,还得先跑标注和专家筛选。

对研究者来说剩下的问题也有意思:路由 logit 里读出来的"规划",跟残差流里的"规划",是同一个东西吗?如果是,MoE 的路由器就不只是负载均衡器,而是实时的推理状态日志。