文生图模型的推理账单,几乎全部来自一件事:网络评估次数。扩散模型和流匹配模型靠反复去噪把噪声变成图像,每多一次前向就多一份延迟。一步生成和几步生成把这条曲线压平,代价是采样过程中几乎没有纠错机会——提示词里要求渲染的每一个字符,都得在仅剩的一两次前向里一次写对。
长文本渲染把这道题摆到了台面上。海报、菜单、书封上的成串中英文,既得排版协调,又得字字正确。这正是蚂蚁(inclusionAI)这篇新论文挑的战场,论文原文见 https://arxiv.org/abs/2610.39633 。
核心思路:让生成器自己给自己当裁判
论文的做法叫 Intrinsic Distribution Matching(IDM),落点在分布匹配蒸馏(DMD)这条线上。DMD 用分数差把生成分布往参考分布上拉,分数差来自一个预训练教师给出的参考分数,减去一个辅助假分数网络估计的当前生成分数。IDM 沿用前人做法,用内部的 velocity 分支来估计这个差,省掉了单独跑一个假分数网络的成本。
新增的部分是显式的矩约束。论文把 reverse-KL 场拆成高斯矩分量和非高斯残差,由此指出有一批统计量是可以被直接约束的。IDM 在保留完整 DMD 修正的同时,去匹配特征均值和逐坐标标准差——而这些特征取自生成器自己的指数滑动平均(EMA)副本,不需要任何外部特征编码器。
这一点是整篇论文最值得注意的地方。过去的做法是外挂一个 DINOv2 之类的特征编码器来提供"锚点",多一个模型就多一份显存、多一段工程复杂度。IDM 的答案是:生成器自己的 EMA 副本已经带了足够的结构信息,拿它当锚点就行。
数字:长文本分数确实拉开了差距
论文报告在 Z-Image-Turbo 6B 上,2 次网络评估(2 NFE)时,LongText-CN 达到 94.25%,LongText-EN 达到 90.20%,是论文对比的这一批方法里同预算下的最高分。对照组里,Z-Image-Turbo++ 是 91.62 和 89.88,APEX 是 90.38 和 88.76。换成百分点,IDM 比 Z-Image-Turbo++ 高出 2.63 和 0.32,比 APEX 高出 3.87 和 1.44。
不过这张表有两个诚实的限定,论文自己写得很清楚。一是 8 NFE 的 Z-Image-Turbo 参考值在 LongText-EN 上仍然更高(91.74),也就是英文侧还没被完全追平。二是 APEX 的 DPG-Bench 是 88.64,高于 IDM 的 86.82。另外论文明确指出,这些公开参考模型的训练设置和数据各不相同,只有在同一套配置下的消融实验才真正可比。
消融表是这篇论文最有说服力的部分。同样是 Z-Image 全参数、2 NFE:
- 去掉 DMD 也不加特征矩损失:OneIG 52.25 / GenEval 76.24 / LongText-CN 92.70
- 只保留内部 DMD、不加矩损失:52.87 / 77.46 / 93.87
- 改用 DINOv2 特征做矩匹配:53.00 / 77.75 / 94.13
- IDM,改用生成器 EMA 特征:53.06 / 77.81 / 94.25
在内部 DMD 对照之上加 EMA 特征矩损失,五项指标分别带来 +0.19 OneIG、+0.35 GenEval、+0.28 DPG-Bench、+0.38 LongText-CN、+0.41 LongText-EN 的提升。有意思的是,生成器自己的 EMA 特征不但没有明显输给外接的 DINOv2,在多数项上还略高一点——这才是"内生"这个标题真正的证据。
速度数据同样漂亮。全参数 Z-Image 在单张 A100、BF16 下,1 NFE 延迟 0.25 秒、2 NFE 延迟 0.30 秒;Qwen-Image 20B 分别是 0.35 秒和 0.44 秒。吞吐方面,Z-Image 2 NFE 能到 5.18 张/秒,Qwen-Image 2 NFE 是 3.28 张/秒。rank-64 的 LoRA 改动 0.4B 参数,基本保住了全参数模型的 GenEval 表现。训练侧的成本也交代了:Z-Image 训 15K 步用 32 张 H100 80GB,Qwen-Image 的 LoRA 训 10K 步用 8 张 A100 80GB,全局 batch size 64。
泼点冷水:权重还没放出来
这是必须点明的一点。GitHub 仓库(https://github.com/inclusionAI/IDM)顶端的徽章写得很直接——"Model weights: Coming soon",Checkpoints 一节里 Z-Image-Turbo 6B 和 Qwen-Image 20B 的全参数与 r=32/r=64 LoRA 权重全部标着 "Coming soon"。仓库 README 里还有一句自我约束的说明:"以下所有数值均为论文报告的结果,并非运行本仓库的实测结果。"
换句话说,目前跑不了、复现不了。表格里的分数是自报口径,第三方独立复现尚不存在。这不影响论文本身的方法学价值,但对想立刻上手的人是个明确的等待信号。README 也提醒,基座模型权重或 APEX 权重都不是 IDM checkpoint,拿它们复现不出上面的结果。
训练数据规模也是一个变量。参考数据由 ShareGPT-4o、BLIP-3o 以及用 Qwen-Image-2512 和 Z-Image-Turbo 合成的样本组成,其中 600K 条来自 FLUX-Reason-6M 提示词,5M 条来自文本渲染提示词。论文拿这个规模跟 APEX 用的 200K 条海报提示词样本做了对比——数据量级的差异本身也会影响最终分数,这是读这类对比表时容易被略过的一层。
我的看法
这项工作的价值不在于又一个更高的跑分,而在于它给出了一条能推广的工程路径:把外挂的感知锚点换成模型自己的 EMA 表征。少一个模型、少一段工程,长文本却涨了,这个交换在端侧和自建推理栈里的吸引力比论文里的百分点更实在。
至于 94.25% 这个数字,更该看作"这个方向的下限已经探到了哪里",而不是"当前最强"。等权重落地、第三方复现跟上、APEX 那类对手在同一套数据上重跑一遍,再谈谁更强比较靠谱。
权重放出来那天,这套配方大概是很多推理团队会第一时间抄的作业。