xHC(Expanded Hyper-Connections)突破 HC/mHC 卡在 N=4 的工程瓶颈,用「时间特征增强+稀疏残差架构」把残差流扩展到 N=16,在 18B/28B MoE 上相对 mHC 平均下游涨 +4.0 分,等 loss 下 vanilla/mHC 需 1.50×/1.19× compute。配套 xHC-Flash 把每子层显存流量从 73.5C 压到 40C,逼近 mHC N=4 的 34C 水平。
xHC(Expanded Hyper-Connections)突破 HC/mHC 卡在 N=4 的工程瓶颈,用「时间特征增强+稀疏残差架构」把残差流扩展到 N=16,在 18B/28B MoE 上相对 mHC 平均下游涨 +4.0 分,等 loss 下 vanilla/mHC 需 1.50×/1.19× compute。配套 xHC-Flash 把每子层显存流量从 73.5C 压到 40C,逼近 mHC N=4 的 34C 水平。