开放权重这一轮的新玩法,是先把「老师」放出来。最近一个例子来自 Nanbeige 实验室:他们没有直接扔出小模型冲榜,而是先发了一个 33B 的稠密模型当 4.3 系列的教师模型,打算之后再把能力蒸馏进一个 3B 版本。这跟行业里常见的「先发小模型冲性价比」顺序正好相反。

先看这个教师模型是什么。模型卡显示,Nanbeige4.3-33B 是 Apache 2.0 许可的稠密模型,Hugging Face 元数据显示约 331 亿参数,BF16 权重约 66GB,上下文做到 524,288 tokens(512K),中英文双语。指令版和 Base 版权重同期放出,HF 页面上已经出现 44 个社区量化版本和 5 个二次微调版本,架构标签是 Llama。Nanbeige 之前做的是 4.1-3B、4.2-3B 这类小模型,这次 33B 的定位写得很直白:它是「旗舰教师」,小模型蒸馏管线在它的下游。

榜单:赢在长程,输在三处

厂商的对比组是 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B,全部拉到最高思考强度,同一套推理超参与 harness。几个关键行:

  • Terminal-Bench 2.1(Terminus 2 harness):80.9,对手 73.0 / 61.8 / 47.2
  • Terminal-Bench 4.0(mini-swe-agent v2.4.6):23.8,对手 6.3 / 1.6 / 0.0
  • DeepSWE(mini-swe-agent v2.4.6):65.5,对手 42.5 / 4.4 / 2.7
  • SWE-Bench Pro:60.3,反而低于 Qwen3.8-27B 的 61.7
  • GDPval:84.8,低于 86.4
  • GPQA Diamond:89.5,低于 Gemma4-31B 的 91.3

差距的分布比单个数字更有意思:长程 agent 任务上被拉开十几到二十几分,Terminal-Bench 4.0 甚至是 23.8 对 6.3;而在纯推理侧,AIME 2026 是 95.2 对 94.5,GPQA Diamond 89.5 对 89.2,几乎贴脸。厂商把输的三项都摆进了表里,这比大多数发布会表格诚实。

Cowork 那半张表可能更值钱

比编程榜单更值得看的,是被标成 Agentic Cowork 的那一半:Automation Bench 54.2 对 38.3,JobBench 44.8 对 34.5(模型卡说 35 个职业里多数领先),YC-bench 上按美元计价是 1,025,437 对 641,290,Toolathlon-Verified 70.4 对 68.5,Claw-Eval 78.3(只算 157 道单轮任务),Tau3-Bench 48.8 对 48.5,DeepPlanning 63.3 对 49.2,EnterpriseOps-Gym 41.0 对 40.2。

这半张表测的是「像办公助理一样跨工具干活」,而不是刷代码题。但它也更脆:这些基准高度依赖 harness、暴露了哪些工具、用谁来当评委——SWE-Atlas-QnA 一项就是由 GPT-6 Sol 按 1,304 条任务级 rubric 判分(50.8 对 41.9)。而且对手是厂商自己挑的,模型卡没跟更大的开源 MoE 比,更没跟闭源前沿比。

别忘了基座版:Nanbeige4.3-33B-Base 在八项基座基准上全面压过 Gemma4-31B-Base,MMLU-Pro 66.9 对 59.3,GPQA 62.0 对 41.5。

跑起来:66GB 权重和 512K 上下文的现实

BF16 权重约 66GB,单张 80GB 卡塞进 512K 上下文的 KV cache 后相当紧张,官方示例是四卡张量并行,SGLang 和 vLLM 都直接给了命令(--tp-size 4、--reasoning-parser qwen3、--tool-call-parser qwen3_coder)。chat template 有两个关键开关:enable_thinking 默认打开;preserve_thinking 官方建议在多轮工具调用、办公任务和 code agent 场景保留,普通问答关掉;工具调用格式推荐 xml,json 作为兼容选项。参数建议分两档:agent 与工具类任务用 temperature 1.0、top_p 0.95、max_new_tokens 65,536;推理与闲聊用 temperature 0.6、top_p 0.95、max_new_tokens 262,144。另外 Transformers 示例带 trust_remote_code=True,在放密钥的机器上跑之前值得先扫一遍仓库代码。

所以呢

先把话说清楚:这张表里的每一个数字都是厂商自测,目前没有第三方复现,几个转述站点也都把它标注为厂商自报结果。评测口径对 agent 榜单的影响尤其大——换 harness 数字就会动。

那它值不值得试?我的建议是别拿公开榜单当结论,挑自己两三个重复出现的任务(工单分拣、从表格起草报告),在你自己用的 harness 里跑一遍,比的是「每个完成任务的成本」而不是分数。分数高五分但重试次数翻倍,未必更便宜。

更根本的问题是:这条「先立教师、再压学生」的路线,成败其实不在这个 33B 有多强,而在那个还没发布的 Nanbeige4.3-3B 能不能把老师的东西学个七七八八。33B 是手段,3B 才是目的。