12 个基准跑下来,准确率只掉了 0.15 个百分点,思考 token 却少了 38.9%。BottleCap AI 把这版后训练模型叫 ThinkingCap,底座是 Google 的 gemma-4-26B-A4B-it,权重和 GGUF 量化版都放到了 Hugging Face,换上就能跑(原始公告)。
ThinkingCap 系列的第五个模型,也是第一个落在 Google 模型上的——之前四款分别在 Qwen3.6-27B、Qwen3.8-27B、NVIDIA Nemotron-3.5-Lightning-30B-A3B 和 Qwen3.8-Flash-Next 上做过。
数字出自谁的手
这是厂商自己的评测,BottleCap 在公告里说得很直白:基座模型不是引用公开数据,而是他们自己在同一套评测里跑出来的,采样参数、温度、top_p、top_k 全部沿用 Google 的推荐设置。换句话说两侧是同一场比赛,不是拿自家模型去比别家论文里的数字。
测法也交代了:AIME 2026、HMMT 两套、LiveCodeBench v6、GPQA-Diamond、MMLU-Pro、MMMLU、AA-LCR、LongBench v2、RealWorldQA、IFBench、tau2-bench,一共 12 个;每个基准跑的随机种子从 4 个到 64 个不等,准确率报 95% 置信区间;思考写不完直接没答案的"截断",以及模型反复兜圈不收尾的"循环",也单独统计。
在这个口径下,12 项里有 8 项的差距小于运行本身的波动范围,5 项甚至反超基座。真正跑出置信区间的只有 4 项,方向还不一致:IFBench 反而涨了 1.83 个百分点,GPQA-Diamond 掉 0.96,MMMLU 掉 0.66,AA-LCR 掉 4.00。最后这一项是整套数字里唯一的实打实的代价。
省下来的时间去了哪
平均砍 38.9% 不是均匀的。长上下文和多模态那组砍得最狠,54.4%;知识和推理 44.4%;数学 36.1%;代码 27.6%;指令遵循和 agentic 只砍 17.2%。单项最猛的是 LongBench v2 的 69.1%,最浅的 IFBench 只有 13.7%。
值得单独拎出来的是两个失败率:思考撞上 65536 token 生成上限、直接没答案的截断,从 4.35% 降到 0.72%;反复兜圈不收尾的循环,从 3.64% 降到 0.76%。对跑生产环境的人来说,这两个数字可能比 38.9% 更实在。
还有一处细节值得警惕:掉得最狠的 AA-LCR,恰好也是思考被砍得最狠的那一组。长上下文少想了 59.3%,准确率就掉 4.00 个百分点。也就是说这版模型省下的思考,主要是从长上下文能力里抠出来的。要是你正要上一套重度依赖长文检索的 Agent,这个交换未必划算。
落到账单上,关键是 KV cache
按 token 单价算,少 38.9% 只是一半账。推理模型部署时真正卡住服务器的常常不是算力,而是 KV cache:每条并发序列都要占一份缓存,缓存装不下,能同时跑的任务数就被卡死。
BottleCap 另一篇文章做了吞吐实测:同一张 RTX PRO 6000、8GB KV cache、vLLM 0.29.0、关掉前缀缓存、64 并发、20 分钟窗口,同一个 AIME 几何题,原版 Qwen3.8-27B 跑完 24 个任务,ThinkingCap 版跑完 112 个,4.7 倍。思考长度只有原来的 2.3 分之一,换来的是平均并发从 15.1 抬到 24.9、token 吞吐从 319 到 511 tok/s。机制不复杂:trace 短了,单条序列占的缓存就少,同一张卡塞进更多并发,每条又更早结束,缓存周转更快。
需要说明的是,这个 4.7 倍是在另一个底座(Qwen3.8-27B)上量的,不是 Gemma-4。但 Gemma-4 底座本身更值得优化:第三方评测 CrucibleMark 在 DGX Spark 上测 Think 模式,综合分 74.94%,P95 响应 91.09 秒,49 题里有 1 题超时,评价是偏"批量 DevOps 专家"型的选手——慢但有料,正好是吃 KV cache 的典型负载。按第三方记录,该模型是 MoE,总参 25.2B、每 token 激活约 3.8B,Apache 2.0 授权,上下文 262,144,Hugging Face 上也已有现成的 GGUF 量化版。
谁该现在换,谁该等等
如果你的服务是长文档问答、代码库检索、深度研究这类长上下文活,先别急着换,AA-LCR 那 4 个百分点会先告诉你疼在哪。如果负载是批量跑、后台任务,或者 agent 循环,那截断和循环率掉一个数量级,可能比准确率上那 0.15 个百分点更值钱。
两个现实约束:一是这版是第三方后训练产物,底座 Apache 2.0,但衍生权重的许可条款仍以 Hugging Face 上那份 model card 为准,商用前自己看清楚;二是宣称"最多再省 87.6% 思考 token"的 PRO 版本只走商务邮箱,没有公开权重。
我更在意的其实是第三点:所有 ThinkingCap 数字目前都出自厂商自己的评测框架,社区还没有第三方复现。而"省 token 又不掉准确率"这类宣称,历来是最需要独立验证的一类。所以我的建议是,先在真实流量上跑一遍 A/B,别把 38.9% 当成既定事实。
所以呢?推理模型的成本优化,从"让模型少想点"走向"让同一张卡多干点活",这才是真正该被讨论的方向——而这家公司已经用两篇公告,把这两件事拆开摆给你看了。