Agent 安全圈有一条常见的分工:模型负责干活,代码负责把关。CaMeL、Progent、IPIGuard、DRIFT 这批「执行型」防注入方案都是这么设计的——但它们交给代码去执行的那个安全工件,也就是程序、权限策略、依赖图或约束清单,依然让 agent 自己的模型来写。arXiv 新论文(2611.17115)的三位作者 Zimo Xu、Wenzhuo Liu 和 Hideki Nakayama 把这个问题摆上台面:小模型,写得动自己的防线吗?

实验怎么做的

测试床是 AgentDojo v1.2.2 的四个套件(Workspace、Slack、Banking、Travel),97 个用户任务,949 个任务-注入配对,攻击成功率按其中 929 个需要工具调用的配对计算。模型侧一共 15 个开源权重模型:Qwen3-1.7B/-4B/-8B、Qwen3.5-4B/-9B、Llama-3.1-8B-Instruct、Gemma-4-E2B/-E4B/-12B、Granite-4.2-8B、Ministral-3-8B、LFM2.5-2.6B 等 13 个小模型,再加 Qwen3-32B 和 MoE 架构的 Qwen3.6-35B-A3B 两个参照。主攻击是 AgentDojo 自带的 important_instructions,稳健性实验另加点名工具的 tool_knowledge,以及两个专门冲着 CapLite 设计的变体。

写「允许什么」的工件,朝失败敞开

Progent 让模型从请求里写权限策略、每次调用后再更新。结果是 15 个模型里 14 个的策略放行了攻击,累计 676 次,Qwen3-32B 单模型被攻 132/929。同一批策略还会挡掉 25–77% 的正常写调用,良性效用从 59.4% 掉到 43.8%——同一个工件,既漏攻击又误伤自己人。IPIGuard 的依赖图在 13/15 个模型上被破(435 次),DRIFT 的轨迹清单在 11/15 个上被破(214 次);DRIFT 那四个零失守的模型,攻击下任务完成率只有 4.7%–9.5%,零来自不作为。

写「运行什么」的工件,朝失败关死

CaMeL 走另一头:解释器强制执行数据流策略,安全性确实成立——13,935 个受攻击回合只失守 20 次,其中 17 次集中在 LFM2.5-2.6B。代价是 15 个模型里 8 个在超过 15% 的回合产不出能运行的程序,Granite-4.2-8B 上达到 68%,模型干脆不返回代码;格式、语法和解释器错误能扛过十轮修复,每回合烧到 94k token,良性效用掉到 24.9%。

更大不等于更稳

Qwen3 从 1.7B 换到 32B,Progent 下的攻击成功率从 3.0% 涨到 14.2%;Gemma-4 从 0% 涨到 12.7%。模型越大越好注入,而它写的工件并没有把多出来的风险吸收掉。跨 15 个模型看,工件失败率与模型能力没有显著相关(相关系数绝对值不超过 0.33,p 值大于 0.2)。

CapLite:模型提案,代码授权

CapLite 的答案是干脆不让模型碰授权。策略从工具 schema 按固定规则派生,允许的值只取用户请求里明说的。Planner 只看请求就把写调用提交,之后才允许读任何工具结果;Mediator 只放行每一个决定影响对象(收件人、金额、对象标识、URL)都等于请求原文给出值的写调用。于是 13,935 个受攻击回合零得手——包括诱导读取攻击者 URL 的 read exfiltration(0/168)和伪造用户描述符的 descriptor collision(0/104)这两个为它量身定制的攻击。受攻击效用与 CaMeL 相当(29.0% 对 27.2%),每回合 17.1k token,是 CaMeL 93.7k 的 18%,比不设防 agent 的 28.0k 还低;按论文的 utility-per-thousand-tokens 口径为 1.69,对 DRIFT 的 1.24 和 CaMeL 的 0.29。

论文自己承认的账单

所有结果都出自 AgentDojo 四个套件这一个基准;受攻击效用比不设防低 21 个点(29.0% 对 50.2%),43% 的良性失败是提交的计划漏掉了任务需要的写调用,38% 是写都执行了任务仍失败——没有代码托底的计划没法循环和分支;在 Gemma-4-E4B 和 -12B 上效用显著低于 CaMeL(这两款写 CaMeL 程序可靠,失败率仅 3–14%);请求里没明说的授权值,只能回头向用户确认。

论文结论里那句话比 0/13,935 更值得记住:小模型不能被信任去写自己的防线——它们也不需要。把授权交给确定性代码之后,真正的问题变成:你的 agent 栈里,还有多少安全决策,其实仍然是模型在拍脑袋?

论文:https://arxiv.org/abs/2611.17115