做 Agent 路由的都知道:请求跨供应商转发时,模型的多轮工具调用历史就不完整了。推理模型每一轮都先写一段思维链再动手,下一轮靠读它继续规划。上游厂商把思维链绑在签发账号上,跨签发方转发的请求到达时,思维链整段被清掉,动作和工具返回结果还留着。

arXiv:2611.13223(https://arxiv.org/abs/2611.13223) 把「删掉思维链」当成受控变量,量任务成功率掉了多少分。实测跨度是 −3.9 分到 +51.3 分,两端都不含零;同一个 32B 参数档内部,三个模型就差出 51.5 分。

三个条件,把删除做成可复现的实验

任务池取 BFCL v4 的四个多轮子集,794 道题,每题 2 到 8 轮,覆盖基础场景、长上下文、缺函数、缺参数四类。评分用 BFCL 官方 checker,对实验条件盲评,每个模型每个条件跑三个随机种子。被测模型九款:Qwen3 的 8B / 14B / 32B 三档,GLM-Z1-32B、GLM-Z1-9B-0414、Baichuan-M2-32B、Ling-mini-2.0、R1-Distill-14B、Olmo-3-7B-Think。

三个渲染条件:保留全部历史;跨轮删除(历史轮思维链全清,当前轮不动);会话中删除(第 K=⌊0.4T⌋ 轮切换,前段清后段留)。两个指标:Δdel(S) 是保留减跨轮删除的成功率差,Δdel(R) 是删除带来的重复调用率上升。

同一档参数内部差 51.5 分

实测跨度是 −3.9 分到 +51.3 分,跨九模型共 55.2 分。

Baichuan-M2-32B 掉得最狠:保留时成功率 51.8%(309/596),跨轮删除后掉到 0.5%(3/573),Δ 是 +51.3 分,95% 区间 [+47.2, +55.3]。GLM-Z1-9B-0414 形态相同:19.2%(109/567)掉到 2.7%(16/591),Δ +16.5 分,区间 [+13.1, +20.1]。

反过来 R1-Distill-14B 删掉历史后成功率反而从 0.9%(17/1852)升到 4.9%(92/1892),Δ 是 −3.9 分,区间 [−5.1, −2.9]。论文的说法是:它原本背着扛不住的思维链,删掉反而卸了负担。

扎眼的是参数档内部。Qwen3-32B 读 −0.2、GLM-Z1-32B 读 +1.3、Baichuan-M2-32B 读 +51.3,同为 32B 就差出 51.5 分。同家对比更说明问题:GLM 的 32B 是 +1.3,9B 是 +16.5。论文因此把结论落在「只有模型身份能预测结果」上——尺寸、删除比例、任务类型都解释不了。

失败有两种样子

论文没只看成功率,它从原始调用日志里另开一条通道:统计「同一个调用原样发了两次」的会话比例得到重复率,与成功率合成两个轴,分成三种失效签名。

补偿型两个指标都基本不动,Qwen3 三档、GLM-Z1-32B、Ling-mini-2.0 属这一类。循环型重复率飙升:R1-Distill-14B 在会话中删除下从 16.8% 冲到 66.4%,跨轮删除是 22.7%;Olmo-3-7B-Think 跨轮删除从 30.2% 冲到 66.5%。沉默型不给重复,直接放弃:Baichuan-M2-32B 成功率 51.8% 掉到 0.5%,重复率只升到 26.5%。

调用流更能说明问题:Qwen3-8B 保留时 6 次调用就完成,跨轮删除后调用数涨到 410 次,结果照样对。R1-Distill-14B 在缺参数题上把 ls(a=True) 发出 418 次。

删一半和删光,差别不到 2 分

论文给唯一被做剂量实验的模型(Qwen3-32B)跑了六条臂:删 0%、25%、50%、75%、100%,外加一次随机删一半。成功率依次是 56.5、53.0、54.5、56.0、55.0、55.0。零臂与全删臂相差 1.5 分,每臂相对零臂的差值区间都跨零;随机删一半(54.5)和顺序删一半(55.0)也基本一致。分量在于:模型在「全删」下能扛住,那在任何剂量下都扛得住。

子集分解提示伤害落在哪。Baichuan 在基础场景付出 +64.7 分,长上下文 +59.3 分,缺参数 +45.6 分,缺函数只有 +7.8 分——工具本身缺失时,删历史也救不回来。R1-Distill-14B 在切换点重复率冲到 66.4%,比从一开始全删的 22.7% 更狠;Baichuan 删掉前一半历史损失 37.1 分,全删是 51.3 分,伤害集中在早期轮次。

两天之内可以测出来

落地版是一个两格筛查:同一个模型跑保留格和跨轮删除格,各 200 题、一个种子、两台设备一天跑完,读 Δdel(S) 区间。判定用闭式标准误,这个规模上 1.96 倍标准误约 9.6 分,要判「保留」得点估计落在 20 分以上。

三条样例读数:0 分区间跨零,删;+15 读 [+5.4, +24.6],归到不敏感档,判断出错概率约 17%;+25 读 [+15.4, +34.6],保留。

重复率通道可零成本搭在旁边:循环型模型在跨度大的条件对上重复率上升 36 到 50 分,补偿型在筛查那一对上不超过 3.8 分。论文提醒,有一个循环型模型在筛查对本身只读到 +5.9 分,只看筛查读数会漏掉它,监控得盯日志。

机制上厂商文档自己承认了

论文的前提是「上游厂商把思维链绑在签发方上」。这不必只信论文:OpenAI 官方开发者文档(https://developers.openai.com/api/docs/guides/reasoning)写着,持久化推理只能在同一模型家族内复用,gpt-5.6-sol、gpt-5.6-terra、gpt-5.6-luna 可以互用,但 GPT-5.6 与 GPT-5.5 家族之间推理不携带;切换模型家族时,即使把 reasoning.context 设成 all_turns,API 也会把不兼容推理从上下文省略。

被删掉的不只是「历史里的一段文本」,而是模型续写推理所依赖的隐状态。跨供应商转发在今天不是例外路径,而是聚合生态的常规操作。

但论文自己留了口子

几处论文主动承认还没定论:补偿型是重新推导丢掉的历史,还是把思维链当闲置货物带着走,论文说是开放的;这个读数能否跨任务族迁移,是结论的开放边界;重复率上升是否先于失败发生,论文只当佐证通道,不作早期预警的主张;敏感档的剂量响应,论文明确说是另一个实验。

所以用法是「先测出来,再决定转发策略」。做模型路由或多 Agent 编排,换个供应商接着跑不是无损操作,损失量级取决于具体模型,参数规模完全不提示。拿线上流量跑一次两格筛查——200 题、一个种子、一天——把删除敏感度读出来,再决定哪些模型固定在原厂、哪些可以放心转发。

删除敏感度是模型的属性,不是接口的属性,这是最值得带走的判断。