BiSCo-LLM 把 LLM 量化推过 2-bit 墙：Lookup-free 球面编码 + 类别恢复蒸馏，告别 VQ 码本

大模型部署受显存、权重带宽、checkpoint 体积三件事卡死,sub-2-bit 量化长期被视作最后一公里。arXiv 2607.08643 (Shao 等,2026-07-09) 提出的 BiSCo-LLM 给出一条不依赖 VQ 码本的新路:把局部权重块映射到单位超球面,二值化成纯位流符号当主载荷,再用 Residual BSQ 阶段编码基线球面码留下的重建误差,作为无码本情况下的显式率-失真通道。在此之上,对 Transformer 各模块类别做替换后做一次 category-wise 恢复蒸馏,把局部重建误差和整体行为错位拉回来。整套体系还附一条 8-bit 保护通道稳敏感通道,搭配神经解码器、LoRA adapter 一并计入存储。意义是把 LLM 权重压到 sub-2-bit 的同时既保留 VQ 类方法的容量优势,又摆脱显式码本存储与查表开销,对低带宽 checkpoint 传输、内存受限的端侧推理场景非常实用。