谷歌因虚假信息担忧撤回Google Earth中的AI图像生成功能
谷歌在研究人员和数字验证专家警告可能被利用生成令人信服的虚假卫星图像并助长在线虚假信息后，暂停了在Google Earth中新推出的人工智能功能。
该公司宣布在推出仅一天后已暂时移除该工具，承认虽然该功能为地理空间专业人士提供了合法用途，但也造成了需要更强保护措施的滥用机会。
AI工具旨在改变卫星可视化
该功能名为“创建图像，”使用户能够放大地球上几乎任何位置，并使用Google Earth的地图、航拍照片和3D地理数据集生成AI创建的卫星风格视觉效果。
谷歌将该能力推广为创意工具，可用于可视化历史场景、支持房地产项目和制作概念地理插图。
然而，几乎在发布后不久，研究人员就表示担忧，认为该技术模糊了真实卫星图像与AI生成内容之间的界限。
专家警告虚假信息风险加剧
开源情报分析师和事实核查专家认为，该功能可能会破坏互联网最可信的地理验证来源之一。
数字调查专家亨克·范·埃斯批评将AI生成的图像添加到Google Earth中，警告说将虚构内容整合到一个长期被视为可靠参考的平台中，可能会削弱公众信任。
同样，卫星图像分析师布雷迪·阿弗里克警告说，逼真的AI生成卫星图像可能会迅速在网上传播，使记者、研究人员和事实核查人员越来越难以区分真实证据与虚假视觉效果。
专家们还警告，令人信服的合成卫星图像的广泛传播可能会永久损害对用于记录冲突、自然灾害和人道危机的地理空间证据的信任。
现有保护措施被证明不足
在暂停该功能之前，谷歌强调AI生成的图像包含不可见的数字水印，可以使用其Gemini AI助手检测。该公司还表示，该系统阻止涉及危险主题的请求，并在禁止欺骗性或误导性内容的AI政策下运行。
尽管有这些保护措施，独立测试表明该工具仍然可以生成高度令人信服的虚构卫星图像，描绘敏感地点和与军事相关的场景。
这些发现加剧了专注于开源情报和虚假信息研究的组织的批评。
以往AI生成的图像对现实世界产生了影响
这一争议反映了对合成媒体在公共话语中日益影响的更广泛担忧。
近年来，AI生成的图像助长了病毒式虚假信息运动，包括虚构的视觉效果，曾短暂动摇金融市场，错误地描绘了五角大楼附近的爆炸，以及在国际冲突期间传播的操纵卫星图像。
这些事件加大了对能够生成可与真实证据混淆的照片级内容的生成AI系统的审查力度。
谷歌选择谨慎
在面对日益加剧的批评时，谷歌确认已从Google Earth中移除AI图像生成功能，同时该公司正在开发更强的技术保护措施和管理机制。
这一决定得到了专注于数字验证的组织的欢迎，包括参与开源情报和冲突监测的团体，他们认为维护卫星图像的可信度对于新闻报道、人道主义调查和公众信任至关重要。
这一事件突显了技术公司面临的日益挑战，因为他们寻求扩展生成AI能力，同时防止工具被用于在全球范围内创建令人信服的虚假信息。