生产环境里一大类「大模型任务」,其实既不用写文章也不用写代码:这张工单要不要升级、两条摘要哪条更相关、这段内容是否违规、候选人过不过初筛。过去几年的默认解法,是让生成式模型跑一长串思维链、吐出文本、再写解析——慢、贵,而且同一个问题换个选项顺序,答案可能就变了。Nace.AI 新放出的 Drex 家族换了思路:输入一段上下文和一组选项,一次前向传播直接给出每个选项的概率,不生成任何文本。配套的 51 页技术报告(arXiv:2611.07854)把方法论、消融和部署细节一次讲完,四款权重全部开放。
决策模型:不是更大的模型,是另一种读出方式
「决策模型」这个词沿袭自 Jev 的 System One 接口:给定一个状态(文档、记录或智能体上下文,可带图片)和若干问题(选择题、判断题、打分题),模型直接返回选项上的概率分布,而不是自然语言。报告认为,判别式读出补的正是自回归链路在生产里的三块短板:答案不稳定、输出要解析、成本和延迟随生成长度膨胀。分类、打分、嵌入这三种判别任务的输出形状在部署时就固定了;决策模型要啃的是第四种——候选集合由用户在推理时临时给定,这恰好是业务里最常见的形态。
一个接口,四个底座
Drex 不是单点模型,而是一个家族。DLM 8B 基于 NVIDIA 的 Efficient-DLM-8B;v1.5 9B 基于 MiMo-V2.6-Distill-Qwen-9B;v2.0 是 35B 参数、约 3B 激活的 MoE,基于 Qwen3.6-35B-A3B,10 月 13 日发布时在 Decision Index 0.3.1 公开榜拿到 61.25;旗舰 Max 是 27B 稠密多模态模型,从 Qwen3.8-27B 训练而来,10 月 14 日跟进。四款共享同一套请求格式,架构却分成两派:pointer 系(DLM、v1.5、v2.0)把上下文编码一次、多问共享,成本更低;Max 对每个问题重新编码完整状态,并去掉全注意力层的因果掩码,再用一个无偏置线性层把末层隐状态映射为 255 个选项码的 logits——单题更贵,换更高精度。
训练配方:三段式,消融数字都对得上
Max 的训练分三段。监督微调打头,损失里加两项一致性惩罚:选项顺序被打乱、状态里的句子和字段被洗牌,预测分布都不该变。接着是论文主推的 RLAF(基于调整反馈的强化学习):奖励混合「可验证的正确答案」与「裁判模型分给各选项的概率」,再用 KL 散度把策略拴在自己的 SFT 检查点附近。最后微调图像编码器及其投影,让模型直接看图做决策。论文消融给出三个硬数字:RLAF 把 Decision Index 分数抬高 2.0;一致性损失把换序翻转率从 6.3% 压到 4.2%;视觉阶段不损失纯文本任务的准确率。
跑分与延迟:官方口径很强,独立榜单更冷静
按论文口径(Decision Index 0.4.1 公开套件,2026 年 10 月 22 日榜单),Max 以 67.52 领先 Jev 1.14.0 的 60.70,在报告对比的决策模型中刷新纪录;在维护方私有测试上得 66.60。报告也没有回避独立评测:Artificial Analysis 独立运行的 Decision Index 上,Max 以 64 分列决策模型第二,领先的三款模型为 65 分。Decision Bench v4 上,它与 d3-turbo、GPT-6 Sol 统计打平,落后 Claude Opus 5.5 约 1.6 分。延迟是这类模型的存在理由:Max 单次典型请求 183 毫秒,对照 GPT-6 Sol 约 2.0 秒、Claude Opus 5.5 约 3.5 秒。
开源程度与部署门槛
代码以 Apache-2.0 放出,Max、v2.0、v1.5 的权重走 Nace.AI Open RAIL-M 许可,DLM 沿用底座的 CC BY-NC 4.0。运行侧除 Python 参考实现外,还有 llama.cpp 与 Ollama 的 fork、brew 可装的 Kapitsa 和 MLX:affine Q4 版在 24GB 内存的 Apple Silicon Mac 上就能跑 Max,Q8_0 需要 48GB;Max 上下文上限 262,144 个 token。三款主力模型同时上了托管 API 与 OpenRouter,截至发稿 GitHub 仓库 84 星、57 次提交。论文还披露了推理优化的细节:用 FlashInfer 的 Blackwell prefill 核替换自写 Triton 核,8k 到 128k 状态延迟降 9-16%,98.7% 的首选选项与换核前一致;把全部 128 个 MLP 投影量化到 NVFP4 后,中位延迟再降约 8%,但在 When2Call 上比 BF16 参考高 2.00 分、超出每数据集 1.5 分的自设阈值——团队人工复核后仍然发布,并把差异写进了论文。
值得留个心眼的地方
报告自己承认:除 Max 的一项受控消融外,多数比较是关联而非因果,哪些设计真正驱动提升仍待实验;Max 每题都要重编码完整状态,长上下文多问场景成本高于 pointer 系;翻转率降到 4.2% 也仍非零,顺序敏感的生产场景要留冗余。另一面,过去一个月微软、亚马逊、Cloudflare、上海 AI Lab 相继押注决策模型,Drex 则把「家族化、全开源加完整方法论」一次打包放出。当全行业都在给生成式推理堆算力时,不妨数一数:你应用里的「生成」,有多少其实只是「选择」?