决策模型赛道最近两周挤满大厂:微软、亚马逊、Cloudflare、Perplexity 先后开源自家模型,打法一致:把 LLM 路由压成一次廉价分类。Liquid AI 这次的东西不太一样:多模态、逐帧、零 token 输出。
不生成 token 的模型
d1-3B 与 d1-omni-600M 属于 Liquid AI 的 d1 决策模型家族,参数量 3.1B 与 600M,分别从 LFM2.5-VL-3B 和 LFM2.5-Encoder-350M 后训练而来。它与生成式 LLM 的根本区别:不吐 token。给它一个状态(文本、JSON、图片或混合)和一组问题,一次前向传播直接返回带置信度的类型化答案——是非、多选一、评分档位,接口用量字段里 output_tokens 恒为 0。
延迟因此进入生成式模型够不着的区间:RTX 4090 单问题 8 毫秒,Jetson AGX Thor 16 毫秒,最小的 Orin Nano 也只要 50 毫秒;64 状态并发打包,AGX Thor 每秒吞 262 次。官方还与 NVIDIA 在 Isaac Sim 做了硬件在环演示,模型跑在 Jetson 板上直接导航。
跑分:3B 排到全榜第二
Decision Index v0.2.1 公开榜上,d1-3B 拿 48.57 分,仅次于 12B 的 Winnow-12B(50.02),也压过 36B 的 Decider 35B-A3B(47.11)——体积约 12 倍于它。分项里 Tools 74.5、Arts 36.3 均为榜单最高。七项公共文本基准平均 82.9,高于 Decider 4B 的 81.1;d1-omni-600M 平均 78.4,以约四分之一参数打赢 Decider 2B,毒性检测与改写识别两项全表最高。
训练复盘:朴素技巧赢了
官方复盘最有意思的一句:长输入训练、打乱答案选项、修掉数据捷径,「比更高级的技巧作用更大」。d1-3B 的底座是把 LFM2.5-2.6B 与 LFM2.5-VL-3B 文本骨干的权重直接平均,再用不同种子与数据配比微调多个 checkpoint 合并。omni 版分阶段加装:音频走 FastConformer 加 adapter,视觉取 LFM2.5-VL-450M 编码器配 LoRA。
多模态是差异点,短板也没藏着
11 项视觉基准平均 74.1,对底座 73.9 基本持平:MMVP 从 73.7 升到 77.0,VL-RewardBench 从 50.9 涨到 65.0;CV-Bench 从 87.6 回落到 82.1——官方把升降都摆进了同一张表。删掉图片同题只剩 45.1 分,答案确实读自图像。omni-600M 是 600M 级少见的文+图+音三模态组合,但 15.95 的分数被官方标注为实验性 checkpoint;音频决策基准「仍是开放问题」。
配套 10 个 demo 跑在 Hugging Face Space,摄像头逐帧调用 d1-3B,每帧读一次答案。llama.cpp 首日支持,权重开放下载。
所以呢
两周内五家同押决策模型,「把路由和分类从 LLM 拆出来」已是共识。但前四家的叙事都围绕文本路由性价比,d1-3B 的真正增量是把「每一帧都可以问一次模型」变成工程现实——50 毫秒的 Orin Nano 意味着决策模型可以嵌进摄像头流水线逐帧工作,这是生成式 LLM 结构上做不到的事。3B 换 12B 的榜一差距,在边缘场景怎么算都不亏。