FourTune:把扩散模型后训练压进 4-bit,W4A4G4 让 FLUX.1-dev 12B 内存砍半、吞吐翻倍

扩散模型后训练一直被显存和吞吐拖住后腿——12B 级别的 FLUX.1-dev 想要做定制化或强化学习微调,成本高得吓人。MIT 韩松领衔的 FourTune (arXiv:2607.05711) 给出干脆解法:端到端把权重、激活、梯度全部压到 4-bit (W4A4G4),再叠一个 LoRA + frozen 数值稳定器并存的三分支混合管线,外加块级量化和定制 fused kernel,硬是在原生 4-bit 计算下把训练跑稳。在 FLUX.1-dev 12B 上,显存占用砍掉 2.25×、端到端吞吐提升 2.27×,且在定制化、强化学习、蒸馏三类任务上追平全精度微调的质量——没有因为量化而掉点。这与 OrbitQuant、FAIR-Calib 等偏推理侧的扩散量化路线形成互补,FourTune 直接瞄准后训练这一成本最高的环节,把 12B 级扩散模型的定制化门槛进一步拉低,W4A4G4 范式也可平移到 Wan、CogVideoX 等视频扩散模型,把 4-bit 后训练从工程 trick 升级成系统级方案。