Google AI把「地球」玩坏了，这是对10亿人的不负责
不是吧！Google 地球「Create image」刚上线，就被光速紧急撤回？
7 月 30 日，Google 地球网页版正式推出「Create image」功能，接入「Nano Banana 2」 模型，依托大模型的生成能力，用户可以框选地球上任意地点，输入一段提示词，就能基于实景影像进行二次创作：
闲置荒地一键改造为商业区，千年古迹直接复原出古文明盛景，官方宣传片充分展现了这项功能的创意潜力。
但功能对外开放后，局面却迅速失控，Google 地球被网友们彻底 「玩坏了」 。
先进的「AI 公司」，辜负了 10 亿人的信任
Google 地球可以说是世界上最流行的卫星云图服务，通过 Google 地球，我们能查看到关于这个星球最详细的面貌。
根据 Google 自己在官方博客透露，Google 地球拥有总计 3600 万平方英里的卫星图像可以供用户浏览，Google 还表示已经这些卫星图像已经覆盖了地球上 98% 的人口。考虑到 Google 地球和 Google 地图极强的关联性，可以说超过 10 亿的 Google 地图用户，也都是 Google 地球的使用者。
但就是这样一个权威云图服务，却在短短一天内出现了—— 「9·11 事件」 场景重现、 「哥斯拉」 入侵城市、 「外星生物」 降临地表等乱象：
随着事件快速发酵，谷歌火速做出决定，紧急回滚这项新功能。 官方回应称，平台观测到大量外流的生成截图涉嫌违反社区政策，因此决定先下线入口、补上安全防护，等条件成熟后再评估是否重新开放。
AI 生图服务下线了，但 Google 地球长达 20 年积累起来的 「公信力」也毁于一旦了。
这份公信力并非凭空产生，而是在无数现实场景中反复验证、一步步沉淀而来：
卡特里娜飓风过后， Google 地球更新的灾区影像被交付给一线救援人员参考；
国际特赦组织也曾通过现场视频与 Google 地球卫星影像交叉比对，排查疑似集体埋葬地点。
无论是记者核验地理信息、学者追踪地表变化，还是普通用户实景查证，公众早已习惯性将其界面内容视作 真实世界 的有效参照。
也正因如此，当我们打开 Google 地球时，会自然认为：眼前呈现的，是现实世界真实存在过的景象。
（承认吧，你也肯定在地图里一点一点扒拉，找过自己家的屋顶。）
这份不假思索的信任，是谷歌二十年持续采集影像一
过去，一张 Google 地球截图在网络传播，人们不会第一时间质疑真伪；而往后，怀疑将会成为所有人看图时的本能。
信任的裂痕一旦出现，很难修补。
既然 AI 随手就能制作出足以乱真的图像，我们还能无条件相信自己看到的画面吗？难道往后每看见一张截图，都要先费劲分辨它究竟是真是假？
其实早在 Google 地球这次风波之前， Google Pixel 手机就捅过类似的篓子。
两年前，Google Pixel 9 系列上线之际，内置相册搭载了 Reimagine 功能——用户可以框选照片任意区域、输入提示词，就能在原始画面上生成全新内容。
The Verge 曾做过测试，在河流里生成一架失控坠毁的直升机，成品细节完整，乍看都找不到 AI 修改痕迹。
这架直升机发在朋友群里，可能只是一场恶作剧；可它要是出现在社交平台里，就可能摇身一变，成为引起社会恐慌的「现场证据」。
这不只是 Google 一家公司的问题 ，Meta 最近也整了一出大的。
今年七月份上旬，Meta 正式推出 Muse Image，其中一项功能允许用户在 Meta AI 里 @ 公开 Instagram 账号，直接把对方发布的照片拿来做 AI 生图参考。
根据 TechCrunch 报道，符合条件的成年公开账号会被默认纳入素材池，照片被调用生成图像时，账号所有者不会收到任何通知。
等等，你说什么？难道你是在告诉我，我自己的作品会在我自己不知情的情况下被二创吗？这合理吗？
图自 Meta
不出意外，仅仅三天，Meta 就紧急撤回了这项功能。
看到这里，你可能会问：给 AI 图片加上水印，不就行了吗？
水印当然有用，只是它没法包办一切。
传统水印很容易被裁切、截图或转发破坏，虽然隐形水印更难去除，但它也有着一定的门槛——需要专门工具才能识别，而且局部修改后仍可能出现漏判。
为了补上图片来源和修改记录这部分信息，越来越多的平台开始采用 C2PA 内容凭证：它可以记录一张图片由谁制作、是否经过 AI 生成，以及后来被怎样编辑。
可令人头疼的是，即使有了这套凭证，人们能够查清的仍然只是图片的来历。
至于画面里的事情是否真的发生过，还需要我们结合新闻来源、现场证据等信息进一步核实——但很多时候，吃瓜群众在不言中就成为了传谣者。
图自 C2PA
归根结底，水印和溯源技术，都只是事发后的补救手段。 而那些真正决定风险边界、守住影像可信度的，从来不是用户的辨别能力，而是平台从功能诞生之初，就设定好的开放规则与安全尺度。
让娱乐归于娱乐，让真实归于真实
Google 和 Meta 接连出现的功能争议，本质上反映出科技行业一种趋同的产品取舍—— 以假乱真的生成式 AI，能力的边界在哪里？
厂商优先简化 AI 生成流程、降低使用门槛，再依靠后置规则与风控兜底，应对功能开放后产生的滥用问题。无论是直接挪用公开 Instagram 照片作为生图素材、依托真实地理影像开展AI创作，还是将实景照片编辑简化为框选加提示词的极简操作，都是这套产品逻辑的具体体现。
这种极致 的操作简化 ，在 便利正向创作的同时，也消解了过 去天然存在的使用阻力，而这些阻力原本是抵御恶意创作的无形屏障。
不过令人费解的是，明明 Nano Banana 和 Google 地球都属于 Google 。在同一类敏感请求下，在 Nano Banana 中会被拒绝，换到 Google 地球里却能顺利生成。
对一个依靠真实地理影像建立公信力的平台来说，这恰恰是致命的纰漏。
可在争相证明自己是一家「AI 公司」的竞赛里，比起完善前期的安全工作，Google 更急着把功能塞进产品，将安全规则抛之脑后。
当争议出现后，Google 给出的解决方案也很无力——让用户可以通过 Gemini 来甄别可疑图像，可这篓子就是自家 AI 捅出来的啊。
图自 Gemini
显然，风控防线本该优先搭建在平台一侧，把辨别真伪的负担转移到用户肩上，这本身就是一种逃避责任。
在这点上，我认为国产手机厂商在引入 AI 能力时的做法，更值得借鉴。
以 OPPO 手机的 AI 影像功能为例，诸如人像补光、最佳表情、去反光去拖影等功能，当然是一种对真实的「修改」，但这种修改在私人相册这个环境下，是合理的，是克制的，更是锦上添花的。既不打扰他人，也借助 AI 能力提升了效率、挽救了废片。
图自 OPPO
想象一下你在一个很漂亮的花园里拍照，偏偏遇上阴天，光线不足，人物和景色都显得灰暗。这时候用 「AI 人像补光」一键提亮画面，就能把一张差点拍坏的照片救回来，也把拍照时的好心情留住。
花园、人和那次拍摄都真实存在，AI 只是扮演了打光师的角色。它没有另外编出一个不存在的场景，而是修补一次真实拍摄留下的遗憾，让这张「照片」变成一张「好照片」。
即使这是一张经过 AI 处理的照片，这些功能一样会改动像素，有时还会修正局部内容， 但 AI 在这里起的只是修饰作用，原本拍下的生活依旧是画面的中心。
我想无论是 Google 地球或是 Google 相册，必然也能在入口处、在产品层，做好引导与防护，做好 AI 内容与真实数据的隔离， 让娱乐归于娱乐，让真实归于真实。
对 Google 来说这绝非难事，但却依然一次次选择拿公信力去冒险——我想这不应该是一个先进的 AI 公司应有的担当。
本文来自微信公众号 “爱范儿”（ID：ifanr），作者：罗嘉阳，36氪经授权发布。
