谷歌地球AI图像生成器引发虚假信息担忧
谷歌地球于2026年7月31日在其网页版上全球推出了新的AI图像生成器,允许用户通过简单的文本提示,从卫星、航空和3D图像中创建扭曲现实的图像。该功能名为“Nano Banana 2”,迅速引发了对其可能生成令人信服的虚假信息的担忧,正如Digital Digging的研究员Henk van Ess所演示的那样,他制作了描绘墨西哥边境附近难民和加沙医院附近炸弹坑的图像。
van Ess的实验凸显了该工具如何能伪造看似真实的卫星视图场景,可能误导观众。谷歌对这些演示的回应是强调其打击虚假信息的承诺,并指出使用谷歌地球中的Nano Banana创建的每张图像都包含SynthID数字水印。该公司建议用户通过询问Gemini应用或使用搜索中的Lens来验证可疑图像,以检查是否为AI生成,并建议在Gemini中使用“@verifyai”标签。
van Ess建议采取额外的验证步骤,例如将图像与Sentinel-2或Landsat等其他卫星平台进行比较,并检查轨道数据,包括声明的拍摄时间和卫星身份。尽管有这些保障措施,水印仍可能被忽略或绕过;Digital Digging成功用谷歌地球的AI修改视频骗过了Hive的AI检测器,这凸显了可靠识别合成内容的挑战。
谷歌的博客文章将Nano Banana 2定位为可视化历史遗址和房地产项目的工具,但其生成逼真但虚假图像的能力对传播虚假信息构成风险。该功能在谷歌地球网页版上的全球推出标志着AI驱动的图像处理技术向公众开放的重大扩展,引发了对地理空间信息完整性的质疑。
Digital Digging的图像在社交媒体上分享的事件说明了该工具如何轻易被用于创建欺骗性内容。据van Ess称,虽然一些输出(如狮身人面像和自由女神像的混合体)明显是假的,但其他输出可能足以令人信服地欺骗观众。对水印和AI检测工具的依赖可能不够,正如Hive检测器在一例中的失败所证明的那样。
展望未来,随着用户探索这项技术的边界,谷歌验证生态系统的有效性将受到考验。SynthID水印、Gemini检查和与其他卫星数据的手动验证相结合,提供了一种多层次的方法,但滥用的可能性仍然令人担忧。
Sources
- The VergeSecondary
Comments
No comments yet. Be the first.