把 AI 写的德语文本和人写的混在一起,问模型「这段是谁写的」——模型内部其实分得清,答案却常常反着判。波茨坦大学 Jochen Laubrock 单作者的一项研究(尚未同行评审的 arXiv 预印本,https://arxiv.org/abs/2611.26584)对比了 6 个开源底座模型与各自的后训练版本,结论一句话:后训练改变的是模型读取表征的方式,不是表征本身。
知识在,读法错了
研究用三套德语语料:25 词以内截断的短聊天(300 条文本,出自 61 条人写原文)、本地报纸段落(103 段,出自 14 篇文章)、教科书摘要(238 条,119 对人机配对)。线性探针在网络三分之二深度处把两类文本分得很开:三个语料的中位 d′ 分别为 1.35、2.66、3.70。更扎心的是,只用词频的朴素分类器达到同样甚至更好的效果(短聊天 d′=1.73),连放在平均输入嵌入上的探针都不差——判别线索本来就摊在文本表面。但模型自己的答案大量接近随机,甚至反向:Qwen3-8B 后训练版判报纸段落的 d′ 低至 -1.01(原始提示)与 -1.30(聊天式提示),Gemma 3 12B 判短聊天为 -0.81 与 -1.09。信息在表征里,答案没有用它。
SFT 阶段,平均削掉 0.34
六个模型家族的后训练版相对底座平均 Δd′=-0.34,六个家族全部下降;换成三种提示措辞再测,平均 -0.29,54 个对比中 39 个变差。给出明确的基础比率后,底座模型对数几率的移动小于先验变化,多数后训练版反而移动过头。语料边界也要小心:报纸段落上训出的探针拿去判短聊天,方向直接翻转(中位 d′=-0.46),同一批特征在一个语料里标记 AI,在另一个里标记人类。三个发布了分阶段 checkpoint 的模型上,下降主要发生在监督微调(SFT)阶段。
变化藏在早期层和文本之后的位置
模型拼接(把一个 checkpoint 的前 N 层接到另一个的上层)给出定位:Apertus 1.5 8B 共 32 层,前 8 层换成 SFT 版就足以废除底座的判别力(d′=-0.50),前 8 层换回 base 版则恢复到 +0.59(底座本身 +0.43);OLMo 2 7B 前 6 层 SFT 就造出全部亏损(-0.48)。变化在早期若干层渐进累积(Apertus 第 3-8 层,OLMo 2 第 1-14 层)。表征相似度同向:文本位置上 base 与后训练版的线性 CKA 为 0.97-0.999,答案形成位置只有 0.44-0.99。激活修补的跨层扫描进一步显示,从第 14 层起,是文本之后的位置(问题与答案提示)的内部状态在两个 checkpoint 之间传递这个变化;OLMo 2 里文本自身的状态在任何层都不起作用。探针跨版本迁移在文本位置的损失最多 0.15 d′,在答案位置的上三分之一深度却达 0.7-1.9——读出位置被重组,而不是被替换。
反方向的案例:否定句
作者身份语料无法共享,论文补了一组公开数据上可复现的否定陈述句判断:六个家族的探针都把真理解码到天花板(d′=4.54),但底座 OLMo 2 的答案只有 0.80,Apertus 底座干脆反向(-0.88),几乎永远答「假」(判断标准 c=2.6 与 3.0)。SFT 把两者都修复(3.36 与 4.54),探针保持天花板。修复同样从网络中段起位于句子之后的位置;中段以下,陈述本身的表征有贡献,OLMo 2 高达修复量的 82%,其余三个模型为 19-45%。后训练不总是「削」:底座读错的它修,底座已经读对的(Qwen3 与 OLMo 3 底座)基本不动。
2000 条标签就能定方向
训练研究直接操纵了信号:给 OLMo 2 的微调数据加 2000 条正确标注的新闻作者判断,答案在 held-out 新闻上 d′=4.28,报纸段落 2.18(随机标签对照 0.13),教科书摘要相对随机标签提升 +1.36。但同一批训练让短聊天判得比随机还差(-0.58)——新闻上学到的「AI 特征」到聊天语料上反噬,答案轨迹跟着底座模型上新闻训出的探针走。方向由训练信号决定,不是由「更对齐」决定。
该泼的冷水
语料不能共享(报纸未发表、聊天消息无授权、摘要有版权),否定句案例是作者提供的公开复现入口,代码与结果表在项目仓库(https://github.com/laubrock-lab/represented-but-misread)。拼接显示的是携带差异的权重在哪里,不是差异在哪里计算——杂交模型可能跑出两个亲本都到不了的值,作者用远离随机的对照判断排除了拼接本身的干扰,也承认没做「接近随机且未被改变」的理想对照。定位结论在作者身份任务上只基于两个模型;探针证明可解码不等于被使用,作者因此把主要结论压在拼接与修补上。
所以呢
这项研究给「表面对齐假说」添了因果证据:知识在预训练中获得,后训练安装的是读法——但读法并不浅,它动早期层权重、改变问题位置对文本的取用,并带来真实的判断质量后果。对工程的含义很直接:拿 chat 模型当 AI 文本检测器或裁判,等于用一个被系统性教歪过的读法在工作;修复不贵,2000 条标签就能调向,但方向跟着训练分布走,换语料可能反噬。机制层另有独立团队互证:Orgad 等人发现幻觉的真实性信息在内部表征里远多于口头输出所用(https://arxiv.org/abs/2410.02707);Loos 与 Eberle 的 KV-cache 修补把微调行为集中定位在系统提示与聊天模板 token(https://arxiv.org/abs/2610.41480);Ackerman 与 Panickssery 发现 Llama3-8B 的自我识别能力是 post-training 之后才出现的(https://arxiv.org/abs/2410.02064)。三支不同团队、三条路线,指向同一件事:后训练改的是读出,不是知识。