把有害数据从训练集里删掉,模型就真学不会了吗?这篇论文的答案很直接:删得掉,但补得回来,而且模型越强,补回来越省。
论文(arXiv:2611.24844,https://arxiv.org/abs/2611.24844)做的实验看起来有点残忍:把某个技能在训练数据里的监督信号整个拿掉——输入照常留在文本里,但这个技能对应的答案不再被监督。领域覆盖国际象棋、黑白棋、分子结构字符串、括号语言和网页文本,模型最大 70 亿。
最刺眼的一个数字
国际象棋里的「王安全」适合做实验:轮到一方走棋且王被将军时,它得挑一个合法解将的走法,这类局面只占约 7% 的棋盘。一个 6400 万参数、训练时完全没见过被将军局面的模型,被问哪一步合法时,把 48% 的概率质量放在「如果王没被将军本来合法」的棋步上,完整监督模型则是 2%。
更有意思的是排序。在合法应对不止一步的局面上,这个没被监督过的模型,概率最高的合法应对恰好是实战走法的比例是 64%;完整监督模型 68%,瞎猜 30%。将军局面整个抹掉后,模型仍把大多数合法解排在前面。
论文称之为「语料支撑」:一个技能所需的数据,有一部分并非来自它自己的样本,而是来自其余语料的进步——技能与通用能力共用了一部分基础。
删掉的技能,能补回来吗
把数据还回去重新训练,看它们需要多少 token 才能追上完全监督的基线。棋类、网页文本、分子结构三个领域,模型在自己的「习得点」上,只需从零训练所需 token 的 30%、24% 和 38% 就追上了。而在 7B 网页文本模型上,把「某国首都」这类事实的答案扣掉,模型在训练后期的三个检查点上,用 15%、11%、1.8% 和 22%、12%、1.1% 的 token 就补了回来。
最能说明问题的是语言级实验。7B 模型里,Rust 文档被过滤到只剩 3%,它预测 Rust 术语的准确率 52%,同样背景损失下的未过滤模型 76%。继续在未过滤语料上训练,它用掉未过滤模型当初所需 token 的 2.1% 就填平了一半差距。在 212 个 Rust 函数任务上,它刚补回来时能编译 18% 的采样输出(未过滤模型 45%),用掉 13% 训练 token 后是 37%(未过滤模型 41%)。
一个很聪明的对照组
可能有人会怀疑:这不就是数据没删干净,模型从别处猜到了答案?论文用一条「置换规则」堵住这个口子:对每个被将军的棋局,把棋步标签做固定置换。置换后的规则在信息量和可达准确率上跟真规则一样难学,但目标答案本身是乱的。从零训练时两条规则需要的 token 数几乎一样,差距在 1.06 倍以内;可从同一个源检查点继续学,置换规则要消耗真规则 2.4 到 16 倍的 token。这说明省下的正是技能专属的那部分数据。
另一组对照来自「移除路径」:从没被监督过的模型,学回技能需要 5 到 20 倍于「曾经学过、后来被移除掉」的模型的 token。怎么拿走能力,决定之后要花多少代价拿回。
论文自己泼的冷水
论文的结论是克制的,作者也没说成「过滤没用」。首先,规模效应只在受控设定下测过:把目标 token 全部拿掉,在同一背景损失下比较。跨领域的斜率并不一致,棋类和网页文本上每多一个 logit 的余量成本就降约十倍,分子结构上只降约四倍。7B 实测成本落在小模型拟合直线的 0.28 到 1.45 倍之间,不能直接外推。实验对象也是边界清晰的窄任务。
最值得掂量的是它跟安全研究的直接对话。论文引 Rathi 和 Radford 的结论(https://arxiv.org/abs/2601.21571):1.8B 模型上,token 级过滤让遗忘域的计算效率慢了 7000 倍,抗对抗性微调的抵抗力比用来对比的那个遗忘方法高 10 倍。论文同时指出,这两条看似对立的结论其实是一回事——模型每进步一分,过滤留下的缺口越大,可补回的边际数据量却更小。
而 O'Brien 等人(https://arxiv.org/abs/2508.06601)的 6.9B 模型在 3 亿 token 的对抗性微调下依然扛得住,相当于其预训练 token 的 0.055%;论文自己的 7B 模型里,被过滤的领域回来时最多用掉 13% 训练 token。同一个「数据过滤」的思路,两边数字差了两个数量级。
这件事该怎么看
「把危险数据删掉,模型就学会了」这个前提,在工程上仍成立——删掉是有用的,只是它买到的是时间,不是保证。
论文最值得注意的地方不在于「删了还能补回来」,而在于它把这件事量化成了可预测的关系:小模型能预测大模型的延迟量,被扣掉的数据在模型变强中越来越不值钱。模型越强,你越是在给一个更会自学的系统做减法。现实后果有点扎手:补回来所需的边际数据量会随模型进步而下降。数据过滤依然值得做,但有效期可能比想的短。
O'Brien 那篇还指出,被过滤的模型虽没把危险知识内化进权重,却仍能在上下文里拿到这些信息时用起来,比如接上搜索工具,所以需要纵深防御。
至于安全团队该怎么用,论文给了个反向提示:越是把「删数据」当主要防线,越要清楚它防的是「显式习得」,不是「能力本身」。防后者,论文没答案——它测的是延迟和成本。