模型上线之后,后训练不会停:新领域、新工具、新需求,都要往同一个基座上叠更新。当这一过程交给自主系统去跑——提方案、训候选、按评测反馈挑下一个——一个新问题浮出水面:过去某次更新确实有效,这份「成功经验」在基座又被改过几轮之后,还有多少能直接复用?阿里云团队的一篇新论文给出了一个反直觉的答案:先问该不该复用,再谈怎么复用。
问题:经验会过期
arXiv 2608.26730 把这个场景形式化为「条件经验迁移」。核心观察:一次更新的效果取决于它的父模型、数据和训练阶段——三者任何一个变了,旧结论都可能失效。把历史成功当成无条件的通行证,轻则浪费算力,重则让被提升的子模型带伤上岗,污染后续整条训练轨迹。
论文的实验直接量化了这种「异质性」:同一个候选更新,在不同上下文里的效果差异巨大。例如金融领域的 precision replay 更新,在其源任务上小幅提升 0.35,却在迁移目标上带来 +13.3 的跨度;而 SQL 的 rationale-first SFT 换个上下文反而倒扣 2.25。经验不是资产,是易耗品。
方法:先过闸门,再给算力
团队提出 Boundary-Calibrated Intervention Transfer(BCIT),一个插在「候选生成」和「全量训练」之间的授权层。它的动作只有三种:拒绝(Reject)、有界验证(Validate)、训练(Train)。
规则设计得很克制:每条历史经验都绑定它当初生效的源上下文;复用前核对预设适用条件;命名列名的硬冲突直接否决——比如一个函数调用更新撞上不兼容的输出协议,哪怕正分再高也不补偿;证据不足时,只在当前父模型上跑一次有界的小规模试训取证。新提案没有历史战绩,一律不许绕过验证。乘法门控(源强度 × 当前兼容度)保证源证据再强,也补不了上下文的错位。
数字:有害授权砍掉六成
在 Qwen3-4B 上跨金融推理、text-to-SQL、函数调用三个方向的连续适配实验里,BCIT 的成绩单有三组数字值得记住。
其一,24 个候选的事后盲审(Audit-24,含 10 个有益、8 个有害、6 个中性)中,BCIT 只放行了 8 个有害候选中的 2 个,有害授权率 25.0%;对照的 Flat-Additive 打分基线放行了 5 个,授权率 62.5%——砍掉六成。同时它保住了 10 个有益候选中的 9 个(90.0%),不是靠一刀切拒掉了事。
其二,在候选流、评测、36 GPU 时预算全部对齐的六轮配对实验中,BCIT 最终跨任务均值 47.0,比 Flat-Additive 高 2.63 分(95% CI [2.10, 3.16],六轮全胜),也压过 Validate-All(1.50 分)和 Additive+Veto(0.90 分)。
其三,晋升率:BCIT 训完的 62 个候选里 46 个被采纳(74.2%),Flat-Additive 只有 44.4%——多出来的那一半,正是被错误授权的有害更新挤占的名额。
训练栈本身很朴素:Qwen3-4B,LlamaFactory + PyTorch,DeepSpeed ZeRO-2,bfloat16,4096 上下文——没有堆任何特殊基础设施,闸门收益不依赖工程红利。
所以呢
自主后训练的叙事里,大家默认难点在「怎么更快地试更多方案」。这篇论文指出另一个同样重要的轴:在算力花出去之前判断「这次不该复用」,本身就是一个独立的技术问题。对做持续迭代模型平台的团队,这个「经验授权层」值得进架构图——毕竟拒绝一次有害更新省下的,不只是算力,还有被污染的训练轨迹。
参考:arXiv:2608.26730(https://arxiv.org/abs/2608.26730)