近两年关于 KV Cache 压缩、量化、驱逐、prefill/decode 拆分的工作呈爆炸式增长,但大多在孤立 benchmark 上自报收益。ACL 2026 Findings 收录的综述「Towards Efficient Large Language Model Serving: A Survey on System-Aware KV Cache Optimization」(arXiv:2607.08057)第一次把这场「算法竞赛」拉回系统工程语境。 论文核心是 sKis 框架(system-aware KV infrastructure for serving LLMs),把现有方法归入三个维度:时间轴覆盖调度、流水线与硬件感知执行;空间轴把布局与迁移分为 GPU 内存层级和跨计算设备两层;结构轴则涵盖量化、低秩近似、结构压缩、驱逐策略与生命周期管理(KVCC / KVRM)。 更有价值的是随附的 behavior × objective 矩阵——表格显式标注每个方法主要改善的是平均延迟、长尾延迟、吞吐、显存还是互联 I/O,并把「质量损失」作为独立维度列入。研究指出,≥70% 的现有论文只报告其中两项收益,对互联争用、能耗、quality impact 几乎不提及。 对工程团队,sKis 提供了「按瓶颈选技术」的判别工具:部署卡在显存时翻 §5.1,卡在跨卡带宽时回到 §4.2。下一篇 KV 论文若不在这张矩阵里写明自己落点,视野就明显窄了。