Cloudflare 上周刚开放 Clef 决策模型的权重,10 月 9 日就端出第二弹:Clef-omni 把音频(wav/mp3)和视频(mp4/webm)与文本、图像纳入同一次 API 调用,直接输出结构化决策分数。决策模型这个品类自 TypeSafe 的 Jev 问世以来基本停留在纯文本,Cloudflare 把它推向了「多感官」方向。
一次 prefill,四种模态
Clef-omni 的底座是 Qwen3-Omni-30B-A3B-Instruct MoE。Cloudflare 保留了它的多模态理解主干,丢弃了文本转语音输出组件——决策模型不是 LLM,不生成输出 token,只在 prefill 阶段对完整载荷打一遍分:每个候选项先从输入里收集关键证据(无论埋在文本、画面还是音轨),再经两阶段注意力路由对全上下文交叉注意,输出置信度。官方示例是设备验收:一张设备照片、一段运转录音、一段风扇视频,配三个问题——铭牌可见吗、声音正常吗、风扇在转吗——一次调用全部判完。训练配方沿用 Clef:冻结 Qwen3 主干、训 LoRA 适配器、标签平滑交叉熵加 Brier 分数校准。权重开放在 HuggingFace。
百毫秒级打分,和一轮降价
速度数字相当激进:纯文本决策中位约 130 毫秒,图像约 150 毫秒,音频几百毫秒,21 秒带声视频约 1.5 秒判完。定价方面,Clef-omni 首发 0.15 美元每百万输入 token;同场 Clef-flash 从 0.09 美元砍到 0.038 美元,官方称已低于 Jev。砍价的代价是上下文:Clef-flash 托管版窗口从 64k 收到 24k——官方数据称只有 0.24% 的请求超过 24k,自托管权重仍支持 256k。Clef 本体迁移到 SGLang 服务,官方口径提速约 1.7-2 倍,相关 PR 将随 SGLang 0.5.22 发布。
跑分赢在分类,复杂工作流仍让位
官方基准表里,Clef-omni 在 BANKING77(94.8 macro-F1)、CLINC150+OOS(97.7)、Amazon ESCI(57.8)三项分类任务上位列家族第一;但 Home appliances 69.3 大幅落后 Clef-flash 的 97.73,When2Call 63.3 落后 Jev 的 80.97;TypeSafe 自家 evals 里发票处理精确动作 60.2 也低于 Clef 的 64.7。多模态的广度换掉了部分任务深度,这笔交换值不值,取决于工作流里音视频占多大比重。
所以呢
两件事值得留意。其一,决策模型正沿着 LLM 的路径多模态化,而 Cloudflare 从「周五晚决定做、周末训练、周四上线」到本周的多模态加降价提速三连,示范了边缘网络厂商用开放权重加超低价切推理市场的节奏。其二,Qwen 开放权重基座又添一个海外商用案例——同一周内,微软的 Microsoft-Decision-1 也构建在 Qwen3.5-9B 之上(Solidot 报道)。当一次「判断」便宜到 0.038 美元每百万 token,值得问的可能不再是「要不要接 AI」,而是「流程里还有多少判断在由人做」。
参考:Cloudflare 官方公告 https://blog.cloudflare.com/clef-faster-cheaper-multimodal/