DeLS-Spec 把 DFlash 拆成「长-短双专家」:加一个本地头就能再提速

DFlash 把整块一次性起草,把投机解码效率抬了一截,但块内每个位置缺显式因果;Domino、DSpark 想补短板,代价却是从头重训草稿模型。 7 月 8 日挂在 arXiv 的 DeLS-Spec(arXiv:2607.07409) 给出更轻的路子:把现成 DFlash 冻住当「长上下文专家」,再额外训练一个轻量本地头作为「短上下文专家」。本地头只用标准 next-token 目标独立训练,既不要联合训练目标模型,也不绑定特定 DFlash 版本,训练成本几乎可忽略。推理时两路 logits 融合:长程依赖由 DFlash 兜底,块内一致性由本地头补齐。在 Qwen3 上的实验里,DeLS-Spec 在数学、代码、对话三类基准上一致超过 DFlash 原版,平均接受长度同步抬升。 比起 Domino/DSpark「重训一切」的思路,DeLS-Spec 更像插件式改造——对已经部署 DFlash 的团队几乎零迁移成本。它的价值不在炫技式的端到端重训,而在于给出高度模块化的设计模板:长程能力交给已成熟的专家,短程一致性用极轻的本地头补齐。这条「冻结主模型 + 插件子头」的范式,或许会被接下来一连串推理加速工作借用。