Subliminal Clocks: 扩散语言模型里那块"潜时钟"被找到了

Sapienza / EPFL 等机构的 Rulli 等人 7 月 2 日挂在 arXiv 的论文,把当下正在崛起的"扩散语言模型(DLM)"架构翻开了一道新的解释性切口。LLaDA、Dream 7B、Gemini Diffusion、Mercury 这类模型,虽然走的是 BERT 式把 [mask] 一格一格揭开的生成路径,显式层面看不到任何 timestep 输入,但作者证明:DLM 的残差流里确实编码着一条与"去噪进度"对应的低维子空间——通过线性 probe,可以在多层稳定读出;沿这条子空间"推动"模型,会让输出的置信度和熵发生可预测变化。 关键的图景是几何化的:LLaDA 把这条潜时间信号组织成一条从"全部 [mask]"到"完全无 [mask]"的低维流形曲线,而不是散乱分布。这说明 DLM 在内部已经自发学会计时——只是没被命名,也没被接口暴露。对做调度、做加速、做安全的人来说,这条"潜时钟"等于一个全新的可操控旋钮:可以在不改权重的条件下,通过激活空间干预去改变 DLM 的"去噪节奏"和"自我确信度";而这一点在过去,通常只能黑箱调温度或采样步数。 DLM 阵营从 LLaDA 到商用 Gemini Diffusion 都在快速发展,但可解释性几乎空白。这篇论文给出的不是又一份 benchmark,而是一把能插进 DLM 内部的"探针",对学界和工业界都值得一读。