刷模型榜单有个问题没人给干净答案:模型到底会不会"图文交错地讲故事"。10 月底挂上 arXiv 的论文(arXiv:2610.38425)把它拆成七个可测维度,结论反直觉——闭源旗舰在纯文本维度把开源甩开两倍以上,却在真正决定交错能力的两项指标上反被开源压过去。
交错生成为什么一直难评
"交错生成"指模型一次性吐出图文交替排列的连续内容,比如一份带配图的菜谱。模型得同时管住叙事推进、图像数量,以及每张图跟前文是否对得上。
论文开篇说得很直白:统一多模态模型(UMM)已能联合生成文本和图像,但交错生成仍"largely underexplored"。卡点有两个——缺少被明确定义的任务和训练数据,以及缺少能分维度诊断的评测。
数据侧空白更刺眼。作者从七个允许公开抓取和再分发的站点收集了百万量级原始语料,最终只留约 10%:长序列里任何一段有问题,整条样本就扔。
IntReal 的两件套:10 万条数据 + 600 条评测集
保留下来的 IntReal-100K 有 100,000 条样本、538,452 张图、146.6M 个文本 token,平均每条 5.38 张图、1466.06 个 token。数据按文本与图像的协作方式分四类:Planning(决策规划)、Knowledge(知识讲解)、Tutorial(教程步骤)、Story(叙事)。
七个来源里下厨房 34,771 条、维基百科 21,138 条、Wikivoyage 21,055 条,另有 Wikitravel 5,055、Curious George 7,298、Rabbids Invasion 3,949、The Land Before Time 6,734。Story 类平均每条 8.6 张图,交错序列最长;Planning 类只有 2.42 到 2.68 张。
评测集从 100K 里分层抽样出 600 条,每类 150 条,分粗到细两档:整体档(holistic)让模型一次生成完整交错回复;细粒度档(fine-grained)固定前文图文上下文,只生成下一张图,用来定位哪步跑偏。代价是每个模型要生成 6,000 多张图文交错图。
七个维度各配了"专家模型":文本丰富度和文本逻辑性交给 LLM 专家 Gemma4,图像美学交给 IQA 模型 RALI,图像多样性用 DINOv3 算相邻图相似度,数量合规直接数张数,上下文一致性由 VLM 专家判断,主体一致性用 DINOv3 对照参考图。
评测本身可不可信
作者做了三组验证。指标之间不重复:任意两个维度的样本级 Spearman 相关绝对值都低于 0.42,最突出的一对是上下文一致性跟主体一致性。跟人对不对得上:五个主观维度上做了 750 次专家成对比较,自动评分与专家判断平均一致率 83.3%。换个裁判还稳不稳:把 Gemma4 换成同量级的开源 Qwen3.6-35B-A3B,模型排名的相关系数都超过 0.9(文本丰富度 0.905、文本逻辑性 0.929、上下文一致性 0.976)。
跑分结果:闭源赢在文本,输在交错
四个 UMM 家族被拉来对比:Bagel、Emu3.5、SenseNova-U1,以及论文标注为 Gemini3.1-Flash-Image 的闭源 API NanoBanana2。
结果不是"谁全面领先",而是能力画像错位。NanoBanana2 文本丰富度拿到 90.80、文本逻辑性 97.49,而开源里文本逻辑性排在头前的 Emu3.5 是 75.17。但轮到真正跟交错绑定的两项,它反而落后:图像多样性 83.56,低于开源最优的 93.31;上下文一致性 76.70,低于开源最优的 87.29。论文给出的相对差值是,文本丰富度比开源最优高 222.33%,图像多样性低 10.45%,上下文一致性低 12.13%。
读表有个细节值得点破:论文用的"开源最优"是每项指标各自的最优包络,而非某一个统一模型,而这个包络里已包含在本数据集上专门微调过的 checkpoint。闭源 API 实际是跟一群开过小灶的开源模型比。
后训练暴露的取舍
作者还顺手验证了自家指标能不能当训练信号。用 IntReal-100K 对 SenseNova-U1-8B-MoT 做 SFT,文本丰富度涨 29.04%、文本逻辑性涨 6.68%、主体一致性涨 6.53%,但图像美学掉 5.65%、上下文一致性掉 4.89%,七项平均只涨 0.60%。这跟 UMM 里"理解与生成存在内在优化冲突"对上了。
再上强化学习(Flow-GRPO,用 IQA、DINO 和 rubric 三类奖励,10K 条精标样本),图像美学从 -5.65% 收回 -1.34%,图像多样性转正到 +5.60%,均值涨到 +2.69%,在开源模型里排头前。
作者从中得出的判断更值得记:单模态生成能力的提升可外溢到交错生成,未必需要每阶段都做联合优化。训练与评测严格不重叠,99.4K 训练样本,评测那 600 条剔除。
值得泼的几盆冷水
论文自己承认的局限:高质量真实交错数据要靠激进过滤换来,保留率偏低;为保持实验设置干净,没探索混用单模态数据后训练。
但几处值得掂量。人类一致性平均 83.3%,意味着约六分之一的成对比较,自动评分和专家判断并不一致——这基准终究是模型评模型。闭源那侧更微妙:论文明确说,因为系统没公开,无法判断 NanoBanana2 的交错能力是原生支持还是套了 agentic pipeline,所以"闭源输给开源"要打折。素材许可也逐源处理:Story 类来自 Curious George、Rabbids Invasion、The Land Before Time 三部儿童动画,每张图单独授权。
还有个工程现实:整套评测跑在一张 80GB 显存的 A100 或 H100 上。门槛不算高,但这解释了评测集为何只有 600 条——作者说再扩大会大幅推高成本。
所以呢
这份评测的价值不是又一张榜单,而是把"交错能力"从模糊印象拆成七个互不重叠、可复现、可当训练信号的刻度。文本强不等于交错强,单模态的领先在图文交替场景里会被原样抹平——这是最反常识的一条。
10 月 30 日,作者已把数据集、榜单和微调后的模型同步放到 Hugging Face,代码仓库一并公开。想复现的可直接开跑,想蹭数据的也别客气——它本就是为训练准备的。