强化学习时代，给推理模型找一个"更强的老师"是标准做法。但现成的自蒸馏方法有个共同前提：老师得靠特权信息堆出来——参考答案、专家示范、环境反馈。这在只有无标注 prompt 的真实场景里直接失效。

10 月 28 日挂上 arXiv 的一篇论文把这事反过来做：不把模型变强去做老师，而是把它的权重人为弄弱，拿"强的那份"和"弱的那份"之间的差距当训练信号。方法叫 WISD（Weakening-Induced On-Policy Self-Distillation），由 MIT 与 NVIDIA 的 Yecheng Wu、Song Han、Han Cai 提交，代码已放出（arXiv:2610.38681、项目页、GitHub）。

反过来做：把"弱教师"变成免费信号

出发点很直接。以往的自蒸馏（OPSD、SDPO 这类）要么喂参考答案，要么喂专家轨迹，要么喂环境反馈，训练阶段离不开特权信息。WISD 把强弱配对调了个头：原模型 π₀ 当强的那一方，弱的那一方 π_w 由原模型自己的权重退化而来——要么低位量化，要么幅值剪枝。

两者都不需要校准数据，直接在权重上动手：按每 128 列一组做分组量化（默认 b=3，RTN）或按阈值剪枝（默认 τ=1/6），嵌层、注意力头、归一化层和路由保持不动。监督信号就是 token 级的对数概率差 r_w(a|s) = log π₀(a|s) − log π_w(a|s)：原模型比弱副本更看好的 token，被判为该往这边走。

数字：五个模型上到底涨了多少

评测覆盖五个推理模型（4B 到 35B，含稠密与 MoE）：Qwen3-4B、Qwen3.5-4B、OLMo-3-7B-Think、Qwen3.6-27B、Qwen3.6-35B-A3B。基准是数学三项（AIME 2024/2025、HMMT 2025，Avg@32）加代码两项（LiveCodeBench v5/v6，Avg@4）。

论文报告的总体结果是：量化版平均涨 4.0 个百分点，剪枝版涨 5.5 个百分点，25 组"模型×基准"设置里分别有 21 组和 23 组取得正增益。

涨得最猛的是 Qwen3.5-4B——五项平均被量化版推高 11.3 分、剪枝版推高 13.4 分。其中 HMMT 2025 从 57.7% 提到 70.5%，LiveCodeBench v6 从 39.1% 提到 56.7%。大模型上同样有效：剪枝把 Qwen3.6-27B 的五项平均拉高 5.2 分，量化让 Qwen3.6-35B-A3B 拉高 5.9 分（该模型 HMMT 2025 从 68.5% 升到 74.6%，LCB v6 从 61.8% 升到 69.5%）。

更值得玩味的是对照组的走向：在 Qwen3-4B 上，原模型五项平均 55.98，而需要特权信息的 OPSD 只有 52.70、SDPO 只有 49.88——都低于不训练的基线。

消融：削弱要刚刚好

论文给了一条有意思的规律：削弱强度与效果不是单调的。量化位宽从 8 降到 3，Qwen3.5-4B 在 HMMT 2025 上从 56.04% 升到 68.33%，再降到 2 bit 就崩回 49.90%。剪枝阈值同样：τ=1/16 时 60.94%，τ=1/6 时 70.52% 最高，τ=1/2 时只剩 49.58%。

作者的解释是：削弱太轻则对比信号不足，削弱太重则弱模型自己的推理能力先被破坏，噪声盖过信号。而且最优配置下，训完的学生生成的答案还比基线更短。

那"随便削弱一下"行不行？表 3 的对照给出否定答案：单纯奖励模型自身置信度（Self-enhancing），或用温度软化副本当弱教师（T=2），结果都落在原模型 0.6 分以内，几乎等于没动。真正管用的是在权重层面做有结构的退化。

信号落在哪

论文用 ThinkARM 分类体系标注了 64 条 Qwen3-4B 数学轨迹，按初始 logit 梯度的 L1 幅度统计信号分配：探索类占 token 的 14.8%，却吸走 22% 的训练信号；验证类占 8.1% 的 token，拿到 11%。日常实现类的 token 拿到的反而更少。强度削弱带来的对比，恰好压在中间计算和逻辑校验上。

泼点冷水

一是论文在 arXiv 上的状态是 "Work in progress"，代码仓库目前只有 1 次提交，HF 论文页上的仓库 star 显示为 0，离"第三方可复现"还有距离。

二是横向对比的成色。表 2 里 OPSD、SDPO、PW-OPSD、LOPD 那几行灰字，是各自原论文在各自评测设置下的已发表结果，项目页明确标注"treat them as a reference"——不是同一套代码、同一套数据下重跑的。所以论文自称"无需特权信息也达到 SOTA"，严格说是与已发表数字的对照，而非统一重跑的结论。

三是消融的绝对值都落在 HMMT 2025 单项上，"两头不讨好"的形状是相对同一基线的判断，不是端到端的规模收益；方法是否随模型变大而衰减，论文没给正面证据。

不过方法本身值得看：整个训练每个领域只需要 3,200 条无标注 prompt、每条采 4 次、12,800 条缓存轨迹、200 步优化器更新，冻结的强弱配对只对缓存打分一次。训练期间没有活跃的评分模型，也不需要任何标注。

所以呢：这套思路真正的贡献不是某个分数，而是换了一个提问方式——当没有好老师可用时，把"制造一个差老师"变成零成本的信号来源。量化、剪枝这些原本为省显存发明的手段，在这里被当成了一台免费的教师信号发生器。