推理模型的账单里,最贵的部分往往不是答案,而是思考。Fireworks 在官方博客里给了一个数字:像 Kimi K3 这样的推理模型,生成的 token 有时超过 90% 花在内部推理上,答案只占零头。单次请求贵一点还能忍,但在多轮 Agent 工作流里,每一轮都会把之前的推理重新喂回模型,上下文成本随轮数近似二次方增长——早期轮次的思考链会在后续每次调用里被重读、重新计费。

Ember-1:不调低思考强度,而是教会模型少想

便宜的解法本来就有:把 K3 的 reasoning effort 调到低档。但 Fireworks 试过,低档位丢掉的质量太多。Ember-1 走另一条路——不动推理开关,而是重新训练模型本身。Fireworks Research 跑了 50 多个训练实验、200 多次评估,在数学、编码、指令遵循、对话、搜索、工具调用和软件工程等任务上训练 K3,目标只有一个:删掉不改变答案的推理,保留有价值的自我修正。官方口径是,七个公开基准加两家客户生产流量实测,K3 的推理长度可缩短 35%-50% 而准确率不降。Ember-1 是 Fireworks 自家模型系列第一款,现以研究预览形式上线 Serverless,两周窗口后视需求转正。

数字长什么样

基准表里最有信息量的是这组对比:Terminal Bench 2.1 上 Ember-1 拿 82.0%,反超 K3 默认最高档的 80.9%,同时省 51.9% 的 token;DeepSWE 1.1 上 75.2% 对 66.4%,同样反超;SWE-bench Verified 上 92.2% 对 93.2%,小输一个点但省 15.5% token。生产 A/B 测试更直观:一家客户的编码工作流里,Ember-1 得分 0.753 对 K3 的 0.751,输出 token 从 49.3K 降到 29.9K,reasoning token 减少 71.3%,总 token 减少 39%。Fireworks 还先在自家内部编码流量上切换了模型,官方的说法很妙:开发者没注意到模型换了。

小字部分才是重点

独立分析(OrcaRouter 的评测博客)泼了几盆有用的冷水。第一,所有数字都是厂商自报,截至该文发出没有第三方复现。第二,「约 40%」是平均值,实际省幅从 τ-2 Bench Airline 的 5.9% 到 Terminal Bench 的 51.9% 不等——短的单轮调用基本感受不到节省。第三,Ember-1 未公布独立价卡,基准表省钱金额按 K3 公开价折算,而 OpenRouter 模型页挂出的价格与 K3 相同——省 token 就等于省钱。

所以呢

Ember-1 的模板值得记住:拿一个已经足够好的开放权重模型,只重训「思考长度」这一个轴,把省下的 token 变成差价。Fireworks 官方说 token 效率将是他们的主题,开放模型的未来是针对特定负载训练的专用模型。对在 Agent 循环里跑 K3 的团队:别只看榜单,拿自己的流量做影子测试,一两周后再决定要不要切换。毕竟压缩掉浪费的思考是白赚,压缩掉模型真正需要的步骤,代价会在几轮之后才以错误的工具调用形式浮现。

参考:Fireworks 官方公告 · OrcaRouter 独立分析 · OpenRouter 模型页