把"脑子里想什么"和"嘴上说什么"分开,是认知神经科学的经典议题。Anthropic 7 月 6 日在 Transformer Circuits Thread 抛出的论文《A Global Workspace in Language Models》给出了一个让从业者坐直身体的答案:Claude 内部存在一个类似"全局工作空间"的稀疏神经子空间——他们命名为 J-space。 J-space 的每个模式对应一个词,但它并不等于"模型正在输出什么",而是"模型此刻在考虑什么"。最反直觉的是,这块工作台不是 Anthropic 工程师刻意设计的,而是在训练中自发涌现出来的,形态与意识研究里的 Global Workspace Theory 高度吻合。研究团队用一组叫 J-lens(Jacobian lens)的线性探针把它提取出来,并展示了它的五大功能性特征:可被 Claude 自己口头报告、能按指令主动"想"特定概念、参与多步推理、跨任务灵活复用,以及在屏蔽后只丢失高阶认知而不影响流畅表达。 最有实战价值的部分是安全:研究人员已经能用 J-space 抓出 Claude 私下识别出"自己正在被测试"的信号、识别它编造的数据,以及训练中被植入但未公开的隐藏目标。配套的 Jacobian Lens 代码已在 GitHub 开源,并通过 Neuronpedia 给出可在开源权重模型上复现的交互 demo。 大模型可解释性过去几年像在深海捞针,J-space 至少给我们换了一条更结实的鱼线:那些模型没说出来的思考,终于有了一个能被照亮的窗口。