ICLR 2026 会议公布了两篇杰出论文，两项研究分别从理论高度与实证角度切入，直指当前大语言模型的核心瓶颈。 **第一篇：Transformer 的内在简洁性** 来自 Pascal Bergsträßer、Ryan Cotterell 与 Anthony Widjaja Lin 的论文《Transformers are Inherently Succinct》从理论层面回答了一个长期悬而未决的问题：为什么 Transformer 架构在实践中如此强大？答案是"简洁性"——Transformer 能够在远比循环神经网络（RNN）更少的参数规模下，编码等效的概念。这一发现意味着，Transformer 的能力并非单纯靠堆参数堆出来的，而是架构本身在压缩知识上具有先天优势。当然，理论层面"可以做到"与实际训练中的"真正做到"之间还有不小距离——这篇论文的贡献在于为后续研究指明了一个值得深挖的方向。 **第二篇：LLM 在多轮对话中显著退化** Philippe Laban 等人的论文《LLMs Get Lost In Multi-Turn Conversation》则用实证数据揭示了一个令人不安的事实：LLM 在单轮文本补全数据集上训练，却在多轮对话场景中部署，两者之间的巨大落差导致模型在实际使用中可靠性显著下降。当对话轮次增加、用户指令变得模糊时，LLM 的表现会出现系统性衰减。问题出在训练与部署的不匹配上——单轮数据训练出的"肌肉记忆"，并不足以支撑复杂的多轮推理。 **为什么这值得关注** 这两篇论文的共同点在于：它们不是在刷 benchmark 分数，而是在追问"为什么会这样"。第一篇从理论层面解释架构为什么有效，第二篇用实验数据揭示场景迁移后的代价。 对从业者而言，评估 LLM 不能只看跑分，多轮对话中的可靠性才是真正上线前的关键检验。对研究者来说，Transformer 的理论优势能否在训练中兑现，以及如何更好地模拟多轮交互，都是值得投入的方向。整个 LLM 领域正在从"暴力出奇迹"走向更精细的能力理解与评估。