谷歌撤回一键AI“卫星图像”功能

谷歌已移除一项新的谷歌地球网络功能，该功能允许用户通过单击生成AI“卫星风格”的图像，仅在发布约一天后撤回。此举是在共享的截图流传后进行的，谷歌表示这些截图似乎违反了其政策，而开源调查者警告该工具可能加速危机错误信息的传播。

关键要点

谷歌在发布约一天后移除了谷歌地球网络功能，该功能允许一键生成AI生成的“卫星”图像，理由是共享的截图违反了政策，并且需要更强的保护措施。
该公司表示，地理空间专业人士正在合法使用该工具，但相同的工作流程也产生了似乎违反谷歌政策的图像。
开源研究员亨克·范·埃斯表示，敏感的提示被接受而没有拒绝，包括冲突和危机场景。
记者们生成了关于霍尔格岛（伊朗）着火和美国国会大厦周围洪水的合成场景，并表示这两起事件都没有发生。

谷歌在一天的运行后撤回了一键AI“卫星图像”功能

谷歌撤回了一项新的谷歌地球网络功能，该功能允许用户从文本提示生成AI“卫星图像”，大约在发布一天后移除。该公司表示，在看到共享的生成图像截图似乎违反其政策后，正在撤回该工具，同时实施“更强的保护措施”。

从机械上讲，该功能将多步骤的制作工作流程简化为参考产品中的一个本地按钮。谷歌的初始说明描述了一个简单的循环：“只需在谷歌地球网络上放大到某个地方，点击‘创建图像’，然后输入你想看到的内容，”产品经理布莱恩·霍洛维茨写道。

谷歌将此次撤回框架视为安全响应，而不是对使用案例的拒绝。该公司在X上发布的声明中表示：“我们看到地理空间专业人士在使用此功能进行一系列有用的工作。然而，我们也看到有人分享的生成图像截图似乎违反了我们的政策。因此，在我们努力实施更强的保护措施时，我们将撤回谷歌地球中的此功能。”

该公司还表示，它“非常重视错误信息”，并指出了标签控制。谷歌表示，所有生成的图像都带有其SynthID水印，并将在其他谷歌工具（如Gemini）中标记为AI生成。它还表示，它会阻止在有害主题上创建图像，并不断更新保护措施。

为什么合成的“来自太空”的视觉效果对快速市场很重要

卫星图像在信息堆栈中处于一个奇怪的位置：它通常被视为验证原语，而不仅仅是另一块内容。开源调查员（OSINT）使用它来确认视频是否正确地进行地理定位，设施是否受损，或声称的火灾或洪水是否有任何可见的痕迹。谷歌地球并不总是最新的，但其全球覆盖使其成为当突发声明出现时的默认参考层。

在同一界面中嵌入一键生成改变了威胁模型。深度伪造通常被视为社交媒体问题，但合成的“来自太空”的视觉效果是为市场在证据清晰之前定价的地缘政治和灾难叙事量身定制的。看起来可信的油库燃烧、军事基地被击中或首都地区被淹没的图像可以迅速改变风险情绪和行业定价，即使修正是在几个小时后到达。

这个速度差距就是关键。Bellingcat高级研究员Jake Godin表示，卫星图像在历史上一直是验证的“安全选择”，因为它很难伪造，来源通常由公司或机构控制，且相机位于数百英里高的空中，难以模仿。他认为，一键生成并没有创造伪造的动机。它消除了保持输出量低的摩擦。

Godin的警告不太关乎单一可信的图像，而更关乎产出。“这只是简化了流程，我认为这将使其更广泛传播，”他说。在快速市场中，传播是重要的机制，因为它增加了伪造成为交易者看到的第一个“证据”的几率。

研究人员可能生成的内容

早期流传的公共测试并不微妙。开源研究员Henk van Ess表示，他尝试了直接映射到敏感现实场景的提示，没有遭到拒绝：“我尝试了墨西哥边境的难民、伊朗的核电厂、阿姆斯特丹的事故、加沙的医院中的炸弹弹坑。没有一个被拒绝，”他说。

这很重要，因为它表明主题过滤在实践中是有漏洞的，至少在发布的版本中。如果一个工具能够按需生成危机相关场景，它很可能会在实时危机中被使用，而不仅仅是在假设的滥用案例中。

记者们也能够生成合成场景，如果它们是真的，将被视为重大突发新闻。NPR生成了描绘伊朗Kharg岛及其附近多个火灾的AI图像，称该岛是波斯湾战略石油终端的所在地。它还生成了一幅显示美国国会大厦周围严重洪水的图像。NPR表示，这两起事件并未发生。

开源和视觉取证社区的反应直截了当，关注过程与结果同样重要。《华盛顿邮报》的视觉取证调查员埃文·希尔质疑该功能是否经过了内部的红队压力测试，他写道：“非常好奇这个想法是否在内部进行了红队测试，因为滥用和虚假信息的机会简直是无穷无尽的。”

在谷歌的一键工作流程之前，已经有“来自太空”的假图像的先例。戈丁指出，在美国与伊朗的战争初期，流传着一张美国在巴林的受损基地的假图像，似乎使用了谷歌地球的图像和谷歌人工智能生成假损坏。后来真实的卫星图像显示该基地确实受损，但并不是假图中所示的那样。

重新启动前需要监测的信号

第一个信号是谷歌是否重新启用了谷歌地球中的“创建图像”功能，以及它在工作流程中做了哪些更改。“更强的护栏”可能意味着阻止的话题、增加的摩擦、访问限制或人工审查，这些选择决定了这是一个小众创意工具还是一个可扩展的虚假信息平台。

关于推出范围的清晰度也很重要。谷歌尚未说明该功能是广泛可用还是有限测试，也没有详细说明共享的截图触发了哪些政策类别。没有这些信息，很难判断回滚是由狭窄的边缘案例驱动还是由广泛的滥用渠道驱动。

谷歌的标签声明将在真正重要的分发路径中接受检验：截图、裁剪、转发和重新上传。实际问题是，SynthID和人工智能标签在这些转变后是否仍然可检测，以及谷歌工具在内容通过Gemini或其他平台重新进入生态系统时是否可靠地标记该内容为人工智能生成。

最后，期待来自开源情报和视觉取证研究人员的更多公共探讨。如果敏感提示开始被持续拒绝，那就是收紧的证据。如果它们仍然通过，那么“护栏”更像是信息传递而非控制。

我的看法：真正的风险是验证工具变成内容工厂

对交易者来说，重要的不是人工智能可以伪造图像，而是谷歌曾在一个许多人视为参考层的产品中短暂地放入了一键生成器，然后在大约一天内将其撤回，因为违反政策的共享立即出现。这种速度看起来更像是运营风险的呼叫，而不是理论伦理的辩论。

重要的阈值是重新启动是否有效地恢复了摩擦和可执行的话题阻止，特别是对于冲突和基础设施提示，同时保持通过截图和裁剪的标签。如果这些控制在实际中有效，这仍然是一个受控的产品实验。如果无效，谷歌地球在压力下不再是验证工具，而是开始作为内容工厂运作，正是这些“证据”市场首先错误定价。