决策模型这条新赛道,半个月里已经挤进了微软、Cloudflare、Liquid AI 和上海AI Lab。10 月 21 日,基础设施公司 Baseten 也亲自下场:内部研究团队 Base Labs 开源两款决策模型 mammoth-1(27B)和 elephant-1(9B),并把两个主流决策榜单的第一名一起收进口袋(发布博客)。
决策模型是什么:不写字,只给概率
用生成式大模型做分类任务,一直有两个老毛病:为了输出一个标签,模型做的计算量严重过剩;而且回复本身不附带可靠的不确定性度量,你不知道它有多「心虚」。决策模型就是冲着这两个毛病来的。Baseten 的定义很直白:理解请求、做出决策,不花时间写回复。与生成式 LLM 不同,决策模型不写文章,输入一个问题加一组候选项,一次前向计算直接输出每个选项的概率分布,所有选项得分加起来等于一。官方文档给了三种典型问法:选择题,比如「这张工单该派给基础设施、账单、安全还是客服团队」;打分题,比如「这条工单紧急程度是低还是高」;判断题,比如「这封邮件是不是钓鱼」。它的主战场是高频结构化判断:工单路由、垃圾邮件检测、提示词护栏、大小模型分流。Baseten 给出的对比是:相比推理模型,决策模型最多可有约 10 倍速度提升。更关键的是置信度可以设定阈值——九成把握就自动执行,低于阈值转人工;模型还能通过后训练让「自信程度」贴近「实际正确率」,这是生成式模型很难给出的可靠性承诺。
Qwen3.5 又当了一次底座
两个模型分别由 Qwen3.5-27B 和 Qwen3.5-9B 后训练而来,训练集是 621 万条决策样本,公开数据加合成数据,覆盖知识与推理、语言、工具与自动化、检索与分类、艺术与人类品味五个域,还专门教模型在不确定时回答「我不知道」。值得玩味的是底座选择:微软 10 月初的 Microsoft-Decision-1 用的也是 Qwen3.5-9B,上海 AI Lab 上周的 Intern-Decision 同属 Qwen 系。开源决策模型的底座,正在事实上向 Qwen 收敛。两家怎么选?官方建议偏通用知识的任务用 mammoth-1,要快推理就用 elephant-1。
榜单数字与开源地址
按 Baseten 公布的口径,mammoth-1 在 208 个决策模型的 Jev Decision Index 0.4 上以 71.24 分排名第一;elephant-1 拿 62.6 分,总榜并列第八,是榜上最强的 9B 模型。在 Artificial Analysis 决策指数的复现评测里,elephant-1 与此前最强的 d1-ultra 并列第一。权重已上传 Hugging Face(baselabs 组织),配套的 mammoth-1-decision-index 和 elephant-1-decision-index 两个评测数据集也一并开放;Baseten API 上可免费用一周,默认零数据保留,训练细节另见 Base Labs 技术报告。官方还给出选型三问:准不准、知不知道自己不确定、按你的流量算下来贵不贵。
所以呢
判断类任务占 AI 落地的一大半,却长期用「会写作文的模型」硬扛。决策模型把它单独拆出来优化,思路与 BERT 时代的分类器一脉相承,但多了概率校准和弃权能力。当微软、Cloudflare、Liquid、Baseten 在一个月内连续进场,这个品类已经从新概念变成标配组件。真正值得想的是:你身边的 AI 应用里,有多少「生成」其实只是伪装的「分类」?