Google Photos 在检测 AI 生成的图像方面做得更好。

快速阅读: 据《福布斯》称，谷歌在其“重新构想”AI编辑工具中加入不可见的数字水印SynthID，帮助识别经AI修改的图片。这些水印可通过“关于这张图片”的信息查看，但在非谷歌平台上可能无法检测。尽管SynthID能提高识别AI生成内容的能力，但仍存在局限性，需要更广泛应用才能有效对抗深度伪造和虚假信息。

谷歌正通过在其强大的“重新构想”工具编辑的图片中添加不可见的数字水印，使人们更容易识别图像是否经过AI修改。SOPA Images/LightRocket 通过 Getty Images 提供

2月9日更新：本文最初于2月7日发布。“重新构想”功能作为Google相册魔法编辑器的一部分随Pixel 9系列一同推出，允许用户圈出图片中的任何区域，并通过简单的文本提示将其转换成任何喜欢的内容。这些由AI生成的编辑通常富有创意且有趣，但可能会造成误导，因为很难分辨哪些是真实的，哪些不是。

现在，正如最近在一篇Google相册博客文章中所揭示的那样，使用“重新构想”工具编辑的图像将嵌入一个不可见的数字水印，该技术被称为Google DeepMind的SynthID，用于提醒他人该图像包含AI增强的修改。如果一张图片含有SynthID水印，可以通过检查其关联的“关于这张图片”的信息来发现它。这应该使得在社交媒体上或通过消息应用发送的假图片更容易被识别出来——如果它们是用谷歌的AI工具编辑过的。

例如，使用“重新构想”编辑的图片将在Google相册中显示一个“AI信息”部分，内容为：“来源：使用谷歌AI编辑，数字源类型：使用生成式AI编辑。”你也可以在Google相册之外查看这些信息：如果有人向你发送了一张可疑的照片，只需使用Circle to Search功能检查图像并查看是否有上述的AI生成元素。SynthID水印只能通过特定的解码软件读取，并且肉眼不可见。由于它们是图像本身的组成部分，所以比普通的图像标签更难去除。因为任何人都可以轻易从图像文件中删除普通的图像标签，无论是有意还是无意地使用不保留它们的软件。

谷歌已经使用SynthID为通过其Imagen图像生成工具创建的图片添加水印。然而，现在它已将此功能扩展到所有使用“重新构想”编辑的图片，不论是否由AI生成。“重新构想”目前仅在Pixel 9系列及其后续设备上可用，但所有设备都可以读取SynthID水印。

谷歌相册AI水印——一个不完美的解决方案

SynthID水印设计得足够抵抗随意的编辑和操作，并且难以移除。然而，反复编辑可能会导致水印质量下降。此外，谷歌指出，如“改变图像背景中小花的颜色”等微小编辑可能仍然会避开水印，因为变化对SynthID来说太小了。

除了图像，SynthID还可以标记音频、文本和视频。用于在文本中编码和解码SynthID水印的软件已经公开可用，但谷歌目前对其基于图像的水印工具保持保密。这种做法有助于减缓那些可能开发绕过技术的人，但也意味着没有开放审查的情况下，我们无法知道谷歌可能选择在我们的图像中嵌入哪些其他信息。

2月9日更新：SynthID必须更广泛地应用才能真正发挥作用

谷歌必须让SynthID工具更广泛地可用。虽然谷歌为AI生成工具添加水印的举措值得称赞，但SynthID仅是与深度伪造和AI生成虚假信息斗争中的一个小武器。一个显著的限制因素是，与文本文档不同，只有谷歌能够检测图像中的SynthID水印。这意味着虽然谷歌相册、Circle to Search和谷歌镜头会标记带有SynthID水印的图像，但其他软件和服务不会。如果你上传一张“重制”的图片到Instagram，例如，应用程序将不会检测到你的图片包含AI生成的部分。Instagram提示用户在适当情况下为上传的图片添加AI标签，指出Meta要求在某些情况下使用此类标签。然而，激活标签的决定仍由上传者自行决定。

其他工具，如Adobe Photoshop，使用行业标准标签，服务如Instagram可以读取这些标签以自动标记AI生成的内容。为了促进更广泛的使用，谷歌需要向第三方提供SynthID解码器，用于文本和图像。普通用户很可能不会关心或甚至不知道谷歌的水印。然而，那些故意传播虚假信息的人几乎肯定能够绕过它。许多免费和开源工具并不会强制用户嵌入标识其输出为AI生成的标签或水印。

(以上内容均由Ai生成)