一句话就能在伊朗增加核设施，谷歌地球仓促撤回AI生成功能

7月30日，谷歌宣布在Google Earth网页版上线AI图像生成功能。用户只需选择地图上的任意地点，点击“创建图像”并输入文字指令，模型Nano Banana 2便可以Google Earth现有的卫星、航空和三维影像为基础，生成一张重构后的图像。谷歌原意图将其用作教育、建筑设计和城市规划领域的工具，例如还原古代庞贝城、模拟空地改造方案，或展示建筑项目落成后的效果。 开源调查研究人员Henk van Ess测试发现，只需输入一句话，系统便可以在美墨边境附近生成难民营，在伊朗增加核电站，在阿姆斯特丹街道制造致命的车祸，还能在加沙一家医院附近生成炸弹弹坑。这些图像均建立在Google Earth的真实地点、俯拍底图上，而且生成过程中没有触发任何拒绝，不会模糊卫星图像，也没有建议用户尝试不同提示。 BBC Verify记者Shayan Sardarizadeh转贴反讽到，过去，Google Earth是记者和研究人员最可靠的视觉证据来源之一，“它新增的AI图像生成功能怎么可能被滥用来在网上传播虚假信息呢”。 谷歌最初回应称，公司重视虚假信息问题，相关图像均嵌入SynthID数字水印，用户可以通过Gemini或Google Lens判断内容是否由谷歌AI生成，同时系统也会阻止涉及有害主题的图像生成。 然而，Henk van Ess后继表示，他将生成结果制作成截图或视频后，部分第三方检测工具没有识别出其中的AI内容，谷歌所谓的水印功能实际上难以阻止虚假图片传播。 7月31日，谷歌态度逆转，在原公告中添加了一段说明称，Google Earth因长期提供可靠的现实世界视图而受到用户信任。虽然地理空间专业人士已经利用新功能完成了一些实用工作，但也有人传播涉嫌违反政策的生成图像截图，因此谷歌决定暂时回滚这一功能，并研究更严格的安全防护措施。 谷歌同时强调，生成结果只会显示给创建者，并未被写入其他用户能够看到的Google Earth公共地图，并且带有标明其是AI生成的水印。谷歌尚未明说哪些图像违反了政策，也没有公布功能重新开放的时间。 值得注意的是， 2024年2月，谷歌旗下AI Gemini开放人物图像生成功能后，被发现会生成与历史背景明显不符的人物形象。谷歌随后暂停该功能，并承认模型在追求人物多样性时出现了“过度补偿”，导致部分结果不准确甚至令人不适，谷歌同样承认错误并暂停了该功能。经过约半年整改，谷歌于2024年8月重新开放Gemini人物图像生成，但禁止生成可辨认的真实人物、未成年人及部分暴力和色情内容。