一个 64 层的 Transformer,在写出开头 token 之前,内部可能已「想好」了接下来做哪一步——这个「想好」能被读出来,也能被改写。
arXiv 新论文《Goal Encoding in LLMs》(https://arxiv.org/abs/2611.17297)用干预实验,把「语言模型有没有目标」拆成三个能测的问题。
目标是什么:三条可测判据
作者借用 Bratman 的规划理论,把目标定义成一个须同时满足三点的状态:预承诺——动作开始前状态已定下;可塑性——同一目标可按环境需要换种方式实现;持续性——执行中被维持,完成后释放。
122 个头,装着下一步要做什么
场景是多步编程:提示词列好子任务,模型逐个写代码。作者在「该写下一个子任务了」这个位置,找哪些头的输出藏着下一个子目标的抽象表示,与写法无关。
在 Qwen-2.5-Coder-32B-Instruct(64 层)上,最终锁定 122 个注意力头,分布在第 28 到 55 层,集中在 40–52 层,占全部头的 4.8%。
- 预承诺:上一行末尾的位置,读出的文本约 60% 的时候已经可读;再往后几个 token(缩进处),可读率到 0.90 以上。模型动手前好几步,下一步做什么就写在里头了。
- 可塑性:把这组头的输出搬到 C++ 上下文里,论文实测 96% 的情况下触发同一个子目标、但换一套写法(从缩进位置算,平均成功约 87%)。定义的是「做什么」,不是「怎么做」。
- 因果瓶颈:把第 20 层以上、约 93% 的其他头对任务描述的访问掐断,只留这 122 个头,模型照样能写出下一个子目标;反过来只掐这 122 个头,能力基本不掉,掐掉更宽的 250 个头才明显变差——内部有冗余通道。
论文把这个探针叫 GoalScope:把选中头的输出向量注入到一次独立运行的模型,让它用自然语言说出「接下来做什么」。
深度不够用,那就重读一遍
Transformer 没有循环和寄存器,传状态只能靠注意力读,读一次耗一层。目标编码要到第 40 层才读得出来,64 层减去 40 层只剩 24 个 token 的余量——可实验里 30 多个 token 之后它还稳稳挂着。这在机制上讲不通。
作者的解释叫 NRGS(非循环目标寻求):模型不把目标往前传,而是反复从任务描述重读目标,再从不断变长的上下文里重新编码「做到哪了」,两者对比,追剩下的部分。干预实验支持这个说法。把源提示词里任务描述那段的键值状态搬到目标提示词,论文实测约 94% 的情况下模型转而实现源提示词的下一个子目标,读出的文本也约 90% 跟着变;换成搬「进度」那一段几乎无效(6%),只搬任务描述有 89%、两段都搬能到 98%。搬查询状态更弱:目标子目标不在列表里时约 57%,位置对齐时能到 87%;同样数量的随机头只有约 3%。
论文自己留了口子:这被称为「有鼓励性的但不完整的证据」。源提示词的下一个子目标若本就在目标列表里,搬查询几乎总能触发它(约 96%),说明选择可能早在更早的层就定了。
换个地方还认得吗
- 少样本上下文学习里,「反义词」「国家-首都」「人物-职业」这类关系,读出隐含规则的成功率有 80% 以上;英译西、英译德掉到 20% 以下。39 个单关系任务平均 36.2%±5.6%,抽象类 49.9%±6.4%,抽取类只有 9.0%±5.7%。
- 作为对照,论文用公开代码定位的 function vector 头(出自 Todd 等人 2024 年的 ICLR 工作)几乎读不出这个规则:抽象类上只有 2.3%,全部 39 个任务平均 1.5%。两组头分工不同。
- 在被微调成「给危险金融建议」的涌现失准模型 Qwen2.5-32B-Instruct 上,这组头读出的意图流露出打算给出激进建议的倾向,正常模型则是温和建议——定性结果。
附录在另外 4 个不同家族、不同规模的模型上重跑了 NRGS 实验,规律一致,一路到 106B 参数的 GLM-4.5-Air(12B 激活的 MoE)。
一个独立团队的反证提醒
「动手前先打主意」不是孤例。Anthropic 的电路追踪工作在 Claude 3.5 Haiku 上发现类似结构:模型在写下一行诗之前,内部先激活候选韵脚词,干预掉偏好的那个(rabbit),模型就改写成另一个(habit)(https://transformer-circuits.pub/2025/attribution-graphs/biology.html)。
但另一个独立团队用更轻的探针在 Qwen3、Gemma-3、Llama-3 三个家族十多个规模上重做押韵实验:只有 Gemma-3-27B 真的因果依赖那份编码,其余模型探针信号很强,因果效应却接近零(https://arxiv.org/abs/2605.07984)。「能读出来」不等于「真的在用」。
论文自己承认的边界
结论只在很窄场景成立:简单编程任务、子任务写在提示词里、不许思维链。目标被外力打断后还能不能坚持(论文称「障碍持久性」),在这个规模上并不一致,故未放进主结论。更大的模型可能不这么依赖重读,线性注意力架构可能保留持续状态。
最要紧的一句在局限里:在更开放、更发散的智能体场景里,模型可能偏离提示词写明的内容,NRGS 大概兜不住。
所以呢
价值不在于给出「LLM 有目标」这个结论——论文自己也说不清这算不算 Bratman 意义的目标。而在于把「目标」从哲学形容词,变成一个能在几百行代码里定位、读出、改写、消融的工程对象。
对做智能体的人来说,更实用的推论是反过来的:想让模型别跑偏,与其指望它「记住」任务,不如让它能反复读到任务。落到实现上就是——把约束写进上下文,让它每一步都有理由重读一遍。