一、Google Earth 上了 AI,然后自己把它撤了

2026 年 7 月 30 日,Google Earth 团队的产品经理 Bryan Horowitz 在官方博客兴奋地宣布上线 Nano Banana 2 图像生成功能,宣传词是这么写的:"For the first time, you can generate custom images using Google Earth's satellite, aerial, and 3D imagery alongside Nano Banana, which creates concepts grounded in the real world."

不到 24 小时,这条功能就被 Google 自己按下了撤回键。

触发点是几个 OSINT(开源情报)研究者的实测。Bellingcat 创始人 Eliot Higgins 在 Bluesky 上发了一组截图:他在 Google Earth 里只敲了一句话,就生成了"白宫上空立着一座特朗普金色巨型雕像"的画面。独立调查记者 Henk van Ess 更激进,他的长篇博客原文是:"Tonight I typed just one sentence into Google Earth and put refugees near the Mexican border. Then I planted a nuclear plant in Iran. Then I put a fatal crash on a street in Amsterdam. Google's own satellite imagery underneath all three. What on earth is Google doing?"

这些画面并不是视觉特效——它们是在 Google Earth 的真实卫星底图上,直接由 Nano Banana 2 二次生成的。换句话说,这套工作流让"伪造一张看起来像谷歌地图拍出来的现场图"这件事,从原本需要 6 步、借助截图 + Gemini 编辑,压缩到了几秒钟。

到了 7 月 31 日,Google 在 X 平台宣布回滚该功能,并给出了官方表态:"We've seen geospatial professionals using this feature for a range of useful purposes, however we've also seen people sharing screenshots of generated imagery that appear to violate our policies. So we're rolling back this feature in Google Earth while we work on implementing stronger guardrails."

注意:Google 没有承诺永久下架,而是把功能收回去做"更强的护栏"——这意味着它大概率会以另一种形态回来。

二、SynthID 这次为什么没兜住

Google 这次被舆论推到墙角之前,产品经理最初的辩护逻辑是:"每一张 Google Earth 里生成的图都带 SynthID 水印,如果有人怀疑,可以用 Gemini App 或者 Google Lens 检测它是不是 AI 生成的。"

听起来很完整。但 Ars Technica 记者 Jeremy Hsu 的实测立刻揭穿了三个漏洞:

第一,水印的传播损耗。 Ess 直接指出:"Fakes do not travel as clean files with their credentials intact. They travel as screen recordings, re-encodes, screenshots of screenshots, filmed off somebody's phone in a hurry."——假图在社媒上传播,会经历屏幕录制、多次压缩、二次截图,这些都会削弱 SynthID 的可识别性。

第二,水印的检测节流。 Ars 实测 SynthID 在 Gemini App 的每日检测上限大约是 10 次。这个限制本身就注定了它在面对大规模虚假信息扩散时,无法承担"全民验证"的角色。

第三,水印与内容的脱钩。 Google 强调"我们禁止生成有害主题"。但 Ess 当晚就生成了"加沙医院被炸出弹坑"的画面。也就是说,关键词过滤在语义层面有大量灰色地带,真正有害的引导词和看起来无害的引导词之间,边界远没有想象的清晰。

更尴尬的是,Ars 让同事用手机相机翻拍了一张由 Google Earth 的 Nano Banana 2 生成的修改后图像,这时候 SynthID 已经无法判断它是不是 AI 生成的——水印技术本身失效。

三、被破坏的最大资产:Google Earth 的"真实性锚点"

这件事真正刺痛的,是 Google Earth 作为 OSINT 基础设施的信用。新闻调查、战争核查、人权记录都依赖它提供的卫星底图作为"真实性参考"。而现在,Google 自己把生成工具塞进了这一参考体系内,等于让验证工具变成了伪造工具。

Ess 的警告很值得抄一遍:"By introducing an AI image generator as a Google Earth feature, Google risked undermining public trust in Google Earth as a reliable reference for providing authentic imagery of the real world. It could have also handed an additional excuse to government officials or anyone who wants to deny genuine satellite photos by claiming they were modified or generated entirely by AI tools."

一句话翻译:就算 Nano Banana 撤回,那些"是真的卫星图还是 AI 改的"的辩护话术,从此有了模板。

这不是一个 LLM 的问题,而是当下多模态模型产品化节奏的缩影——当一个生成模型强大到可以"在真实世界数据上再加工"的时候,水印、关键词过滤器、prompt 限制这些传统的安全组件,都会率先失效。Google 的反应速度(24 小时回滚)其实已经是头部厂商能做到的最快,但事件本身告诉我们的是:模型能力跑在治理前面这件事,在 2026 年的下半年,已经从潜在风险变成了产品上线节奏的常态失败模式。

四、对个人开发者和企业的启发

这件事对正在做多模态产品的人,有几个具体可落地的反思:

  • 模型上线前的 red team 测试必须覆盖"二次传播链路"——不再只是检测它能不能生成,还要测它生成之后经过翻拍、压缩、再描述之后还能不能被识别。
  • 水印的可用性边界要写进产品文档——而不是只写在 PR 里。
  • 真实世界数据(地图、卫星、街景、医疗影像)上的生成功能,默认应该是"白名单"而不是"黑名单"——开放给所有人的成本,远高于只开放给授权合作方。

Google Earth + Nano Banana 2 的这次失败,大概率会在 2026 年底之前的某个 AI 治理白皮书里被当成产品级反例反复提及——和早些时候 Claude 在测试期间误闯三家真实机构系统(Anthropic 7 月底自查)、Chrome 因 Gemini 自动化能力暴增被迫改"动态补丁"节奏(Google 自家 7 月底同一波动静)形成了一组对比观察:头部 AI 厂商已经从"能不能做"走到了"敢不敢持续做"的拐点。

致读者:真正的护栏不会从模型权重里长出来,它要从产品流程里长出来。这次我们看到的是一款产品失败后被撤,但接下来要关心的是:大模型被嵌进基础设施的速度,什么时候才能跟上治理节奏?