AI生成视频泛滥，如何辨别真假？
快速阅读: OpenAI的Sora应用制造逼真AI视频，引发虚假信息传播担忧。SAG-AFTRA敦促加强防护。检查视频水印和元数据可帮助辨识AI生成内容。
过去，互联网上的假信息容易识别，通常只是一个制作粗糙的Photoshop图片。如今，我们被AI生成的视频和深度伪造所包围，从虚假的名人代言到伪造的灾难报道，最新的技术在模糊现实与虚构之间的界限方面变得愈发高明，几乎让人无法分辨真假。
情况正在迅速恶化。OpenAI的Sora已经让局面更加混乱，而其火爆的“社交媒体应用”，Sora 2，成为了互联网上最热门也最具欺骗性的存在。这是一个类似TikTok的信息流平台，所有内容100%是伪造的。有作者将其称为“深度伪造的梦境”，理由充分。该平台在制造逼真虚构内容方面的技术不断进步，带来了显著的现实风险。
如果你在区分真实与AI内容时感到困惑，你并非孤军奋战。以下是一些有助于你穿透噪音，揭示每个AI创作真相的建议。
不要错过我们的公正科技内容和实验室评测。将CNET设为首选的Google来源。
作为一名AI专家，我认为Sora视频从技术角度来看比竞争对手如Midjourney V1和Google Veo 3更为出色。它们具有高分辨率、同步音频和令人惊讶的创造力。Sora最受欢迎的功能被称为“客串”，它允许你使用他人的形象并将其插入几乎任何AI生成的场景中，从而产生极其逼真的视频。
这正是许多专家对Sora感到担忧的原因。这款应用程序使得任何人都能更容易地创建危险的深度伪造视频，传播错误信息，混淆真实与虚构的界限。公众人物和名人尤其容易受到这些深度伪造的影响，工会如SAG-AFTRA已敦促OpenAI加强其防护措施。
对于科技公司、社交媒体平台及所有人来说，识别AI内容都是一个持续的挑战。但这并非完全无解。以下是一些帮助你判断视频是否由Sora生成的方法。
寻找Sora水印
通过Sora iOS应用程序制作的每段视频下载时都会带有水印。这个水印是白色的Sora标志——一个云图标——在视频边缘跳动，类似于TikTok视频的水印。水印是AI公司帮助我们识别AI生成内容的一种主要视觉手段。例如，Google的Gemini“纳米香蕉”模型会自动为其图像添加水印。水印的好处在于它清楚地表明内容是由AI辅助生成的。
然而，水印并不完美。如果水印是静态的（不移动），可以很容易被裁剪掉。即使是像Sora这样的移动水印，也有专门设计来去除它们的应用程序，因此单靠水印不能完全信任。当OpenAI首席执行官Sam Altman被问及这一点时，他表示社会将不得不适应一个任何人都能制作他人假视频的世界。当然，在Sora之前，没有一种流行、易于访问且无需技能的方式可以制作这些视频。但他的论点确实提出了一个关于需要依赖其他方法验证真实性的有效观点。
检查元数据
我知道你可能认为不可能去检查视频的元数据以确定其真实性。我理解你的想法。这是额外的一步，你可能不知道从何开始。但是，这是一种很好的方法来确定视频是否由Sora制作，而且操作起来比你想象的要简单。
元数据是在内容创建时自动附加的一组信息。它可以提供有关图像或视频如何创建的更多信息。例如，它可能包括拍摄照片所用的相机类型、视频捕捉的位置、日期和时间以及文件名。无论内容是人类还是AI创建的，每张照片和每个视频都有元数据。许多AI生成的内容也会有标明其AI来源的内容凭证。
OpenAI是内容来源与真实性联盟的一部分，这意味着Sora视频包含了C2PA元数据。你可以使用内容真实性倡议的验证工具来检查视频、图像或文档的元数据。以下是具体步骤。（内容真实性倡议是C2PA的一部分。）
如何检查照片、视频或文档的元数据
1. 访问此网址：https://verify.contentauthenticity.org/
2. 上传你想要检查的文件。
3. 点击打开。
4. 查看右侧面板中的信息。如果是AI生成的内容，内容摘要部分应会标明。
当你通过这个工具运行Sora视频时，它会显示视频“由OpenAI发布”，并且会注明它是AI生成的。所有Sora视频都应包含这些凭证，以便确认其是由Sora创建的。
此工具，如同所有人工智能检测器一样，并不完美。有很多方法可以让人工智能视频避开检测。如果你有非Sora制作的视频，它们可能不含工具所需用于判断其是否由人工智能创建的元数据信号。例如，使用Midjourney制作的人工智能视频就不会被标记出来，这一点我在测试中已经确认。即使视频是由Sora创建的，但如果经过第三方应用程序（如去除水印的应用）处理后再下载，这也会降低工具将其标记为人工智能的可能性。
内容真实性倡议的验证工具正确地识别出我使用Sora制作的视频是人工智能生成的，并显示了我创建该视频的具体日期和时间。
截图来自Katelyn Chedraoui/CNET
寻找其他人工智能标签并添加自己的标签
如果你在Meta旗下的社交平台，如Instagram或Facebook上浏览，可能会得到一些帮助来判断某物是否为人工智能生成。Meta内部有一套系统用于标记人工智能内容并加以标注。虽然这些系统并不完美，但你可以清楚地看到已被标记的帖子上的标签。
TikTok和YouTube也有类似的政策来标注人工智能内容。
唯一真正可靠的方法来确定某个内容是否为人工智能生成的是创建者披露这一信息。许多社交媒体平台现在提供设置，允许用户将自己的帖子标记为人工智能生成。即使是在描述中简单地注明来源或披露，也能大大帮助人们了解某物是如何创建的。
当你浏览Sora时，你知道一切都是虚拟的。然而，一旦离开应用程序并分享人工智能生成的视频，就变成了我们共同的责任来披露视频的创建方式。随着像Sora这样的人工智能模型不断模糊现实与虚拟的界限，我们每个人都有责任尽可能清晰地表明某物是真实的还是由人工智能生成的。
最重要的是，保持警惕
没有一种万无一失的方法可以通过一眼看出视频是真实的还是由人工智能生成的。防止自己被骗的最佳做法是不要盲目、无条件地相信在网上看到的一切。跟随你的直觉，如果某物看起来不真实，那它很可能就是假的。在这个前所未有的、充满人工智能垃圾的时代，你最好的防御措施就是更仔细地检查你观看的视频。不要只是快速浏览就滑过，而要仔细观察。检查是否有扭曲的文字、消失的物体和违背物理定律的动作。即使偶尔被骗也不要自责。即使是专家有时也会犯错。
（披露：CNET的母公司Ziff Davis于四月对OpenAI提起诉讼，指控其在训练和操作人工智能系统时侵犯了Ziff Davis的版权。）
(以上内容均由Ai生成)
