当「用得越多越好」撞上 token 账单:微软给工程师的 AI 预算紧箍咒

微软执行副总裁 Jay Parikh 最近给员工发了一封内部邮件,把一件事说得很直白:「Tokenmaxxing is not what we are optimizing for.」(最大化 token 消耗不是我们的优化目标)。这是科技巨头里第一个把「反对 tokenmaxxing」写到内部文件里的声音,而它来的时间点,正好卡在大模型企业级落地 18 个月、token 账单第一次肉眼可见地在 IT 预算里撕开一道口子的当口。

背景:从「用 AI」到「被 AI 用」

过去两年,大量企业把 AI 使用率写进了绩效考核表:用得多,加分;用得少,扣分。这原本是为了推工具,但副作用很快显现——员工为了 KPI 最大化 token 消耗,把能用一句话解决的事扩成三段 prompt,再把 ChatGPT 生成的内容贴回 ChatGPT 总结。Solidot 报道指出,不少公司发现 token 费用大幅超出预算后,开始反向调整:既然员工被 KPI 推着「烧 token」,那干脆换个 KPI,让大家主动「省 token」。404 Media 把这种现象叫做 tokenmaxxing,并将其与 2025 年那波「我们用 AI 替代了一千名员工」的企业叙事直接挂钩——前者是过度使用的故事,后者是过度承诺的故事,两者背后是同一本算不清的账。

微软这次的三个动作

Parikh 的邮件没有停留在口号上,做了三件具体的事:

  1. 设默认模型。微软把 OpenAI 的 GPT-5.6 设为内部 GitHub Copilot 等工具的默认模型,因为它「比其它模型更便宜」。在 GPT-5 系里,这个版本不是旗舰,而是面向性价比的那一档——选它作为默认,等于微软在内部「按价位做了分流」。

  2. 设预算目标。自 2026 年 7 月起,微软各部门将设定「AI token 预算目标」,员工可以在仪表盘上追踪各自的 AI 支出。据 404 Media 转引的内部指引,目前没有公开统一的目标值,但数据显示很多工程师每月在 token 上花费「从几百美元到几千美元不等」——也就是说,即便在微软这种和 OpenAI 有深度合作、能拿到内部价的公司,单工程师月烧 token 也能上万人民币。

  3. 改指标,改叙事。Parikh 明确说:「We are not optimizing for fewer tokens. We are optimizing for more impact per token.」(我们不是在优化 token 数量,而是在优化每个 token 的影响力)。这句话是整套策略的灵魂——它把「省」重新定义成「值」:你仍然可以用 AI,但要能讲清楚这笔钱换来了什么。

为什么是现在?三个看不见的成本

这次转向的真正驱动力不是「微软突然变抠」,而是三个账面上看不到的成本集中爆发:

  • 算力即电力。GPT-5 系模型单次推理的能耗远高于 GPT-4 系列,把默认模型降到 GPT-5.6 后,在微软内部数十万工程师 × 每天上千次调用的规模下,数据中心侧的电费和冷却成本会被显著压低。
  • 效率反噬。Slashdot 评论区有人调侃「AI 把 3 天的活干到 30 分钟,但你盯着它生成的代码、跑测试、修 bug 的时间加起来比 3 天还多」——这是当前企业最普遍的「AI 提效悖论」:单位任务更快,但任务量爆炸,净工时不降反升。
  • KPI 失真。当「AI 使用量」成为绩效,所有人都会去刷数据,直到刷出来的数字跟业务结果脱钩。微软这次等于公开承认,把 AI 使用率当 KPI 这件事本身做错了。

评论:大模型企业落地的「第二阶段信号」

如果把 2023–2025 年看成是「拼命塞 AI」的阶段,那么 2026 年下半年到 2027 年的主旋律,大概率是**「算账」**。三个观察值得行业跟进:

第一,默认模型会变成新的成本战场。当一家公司的内部代码助手默认模型从旗舰版切到性价比版,等于它在替模型厂商做产品分层——这会反过来影响 OpenAI、Anthropic、Google 的 SKU 设计,以及自托管/开源模型的商业空间。

第二,「每 token 影响」会取代「AI 使用率」,成为新一代 KPI。这件事一旦被微软这样体量的公司立成标杆,其它企业的 HR 和 IT 部门会照搬。「AI 提效」从口号变成可量化指标,反过来又会催生一批做 token 成本归因、prompt 效率审计的工具——这是个新的 SaaS 切口。

第三,「tokenmaxxing」会进企业 IT 治理词典。404 Media 已经把它作为一个专有名词使用;可以预见,在 CIO 季度报告里,「token 消耗治理」会和「模型选型」「数据合规」并列出现。

所以呢?

对开发者来说,这封信的实际意义很朴素:用 AI 不会被卡,但被问到「这个 AI 调用到底解决了什么问题」时,得有答案。对管理者来说,微软这次的转向提醒一件事——AI 不是越用越便宜,也不是越用越好,而是要把它放回 ROI 的框架里。一封内部邮件,标着的是大模型在企业里从「上半场」切到「下半场」的转折点。

参考资料: