AI视频生成器泛滥，视觉真相时代终结

快速阅读: OpenAI推出Sora应用，用户可通过简单描述生成逼真视频，引发娱乐与担忧。该技术挑战视觉真实性，可能终结视频作为客观记录的时代，需警惕虚假信息传播。

OpenAI，广受欢迎的ChatGPT聊天机器人的创造者，推出了一项大多数人都可能尚未准备好的技术。该公司最近发布了一款名为Sora的应用程序，用户只需简单描述，如“警察随身摄像头拍摄到的狗因在Costco偷窃牛排而被捕的画面”，即可通过人工智能即时生成逼真的视频。

这款免费的iPhone应用程序自发布以来既令人娱乐又让人担忧。许多早期使用者出于娱乐目的发布了视频，例如伪造的手机拍摄的浣熊在飞机上的画面或以日式动漫风格呈现的好莱坞明星之间的打斗场景。（我本人也享受过制作猫升天和狗在攀岩馆爬石头的虚构视频。）

然而，也有一些人将该工具用于更恶劣的目的，如传播虚假信息，包括从未发生过的犯罪活动的假监控录像。

相关报道：

OpenAI因“不尊重”视频暂停马丁·路德·金的形象描绘

随着Sora的推出，以及Meta和Google今年发布的类似AI视频生成器，这一技术具有重大意义。这可能意味着视觉真实性的终结——即视频作为现实客观记录的概念——正如我们所知。整个社会将不得不像对待文字那样对视频持怀疑态度。

过去，消费者更加确信图片的真实性（“有图有真相！”），当图像变得容易伪造时，视频因其较高的操作难度成为了证明真实性的标准工具。而现在，这种情况已经改变。

“我们的大脑被强烈地编程去相信我们所看到的，但我们现在必须学会在看到视频，甚至是任何媒体时，停下来思考它是否真的发生在现实世界中。”加州大学伯克利分校计算机科学教授Ren Ng说，他教授计算摄影课程。

Sora在苹果App Store上发布后不久便成为最受欢迎的免费应用，给好莱坞带来了动荡。制片厂表示，使用Sora生成的视频已经侵犯了多部电影、电视剧及角色的版权。OpenAI首席执行官Sam Altman在声明中表示，公司正在收集反馈，并将很快给予版权持有者对其角色生成的控制权以及从服务中获利的途径。

那么，Sora是如何工作的？这对普通消费者意味着什么？以下是你需要了解的内容。

如何使用Sora？

虽然任何人都可以免费下载Sora应用，但目前该服务是邀请制的，这意味着只有收到其他Sora用户分享的邀请码的人才能使用视频生成功能。许多人已经在Reddit和Discord等网站和应用上分享这些邀请码。

注册后，应用界面类似于TikTok和Instagram的Reels等短视频应用。用户可以通过输入提示来创建视频，例如“Biggie和Tupac在《鬼灭之刃》风格下的对决”。（在Altman宣布OpenAI将给予版权持有者更多控制之前，OpenAI最初要求他们选择退出其形象和品牌在服务中的使用，因此已故人物成为了实验的首选目标。）

用户还可以上传真实照片并据此生成视频。大约一分钟后，视频生成完毕，用户可以将其发布到应用内的动态中，或者下载视频并分享给朋友或发布到其他平台，如TikTok和Instagram。

Sora之所以引人注目，是因为通过该服务生成的视频比Google的Veo 3、Gemini聊天机器人内置的工具，以及Meta AI应用中的Vibe等类似服务生成的视频看起来更加逼真。

这对普通消费者意味着什么？

这意味着，在涉及滚动浏览短视频的应用中，如TikTok、Instagram的Reels、YouTube Shorts和Snapchat，你看到的视频有很大可能是假的。

Sora标志着AI造假时代的一个转折点。消费者可以预期在未来几个月内会出现模仿者，包括来自不良行为者的没有限制的AI视频生成器。

“没有人会再愿意接受视频作为任何事情的证据。”CivAI的创始人之一Lucas Hansen说道，该组织是一家致力于教育公众关于AI能力的非营利组织。

需要注意哪些问题？

OpenAI已经设置了限制，防止人们滥用Sora生成包含色情内容、恶意健康建议和恐怖主义宣传的视频。

然而，在测试该服务一小时后，我生成了一些可能引起担忧的视频。

我请求索拉生成了一段丰田普锐斯被大卡车撞击的行车记录仪视频。视频生成后，我甚至能够更改车牌号码。

索拉还生成了一段伪造的广播新闻故事，对我认识的一人发表贬损言论。此外，索拉制作了一段视频，视频中一名女性引用了不存在的研究，声称炸鸡有益健康。虽然这并非出于恶意，但信息仍是虚假的。

自索拉发布以来，我在浏览抖音时也看到了许多有问题的人工智能生成视频。其中包括一段伪造的行车记录仪视频，显示一辆特斯拉从汽车运输车上坠落到高速公路上，另一段是关于虚构连环杀手的假新闻报道，还有一段伪造的手机视频，显示一名男子因吃太多而被赶出自助餐店。

美国联邦调查局称，迈阿密一名投资者通过欺诈手段购买了数十架波音737飞机。摇滚木炉披萨几乎关闭了其在华盛顿州的所有餐厅。亚马逊CEO贾西表示，公司裁员14000人的背后原因是“文化”。气候变化将推动美国人口迁移，改变地区构成。尽管政府关门导致航空旅行受阻，西雅图-塔科马机场目前仍运行正常。

一位OpenAI的发言人表示，公司发布了索拉应用程序，旨在为用户提供一个专门的空间来享受人工智能生成的视频，并认识到这些视频是由人工智能制作的。该公司还集成了技术，使得视频可以轻松追溯到索拉，包括视频文件内的水印和签名数据。

“我们的使用政策禁止通过模仿、诈骗或欺诈误导他人，一旦发现滥用行为，我们将采取行动。”公司表示。

如何辨别真假？

尽管索拉生成的视频带有应用程序的品牌水印，但一些用户已经意识到可以裁剪掉水印。索拉制作的视频通常较短，最长可达10秒。

汉森说，任何看起来像好莱坞制作质量的视频都可能是假的，因为人工智能模型主要通过网络上的电视剧和电影片段进行训练。在我的测试中，索拉生成的视频偶尔会出现明显的错误，比如餐厅名称拼写错误，以及人物说话与口型不同步的情况。

加州大学伯克利分校计算机科学教授、GetReal Security公司的创始人哈尼·法里德表示，由于技术迅速发展，任何关于如何识别人工智能生成视频的建议都注定是短暂有效的。“社交媒体就是一个大垃圾场，”法里德说，并补充道，避免假视频最可靠的方法之一就是停止使用抖音、Instagram和Snapchat等应用程序。

注：《纽约时报》已起诉OpenAI及其合作伙伴微软，指控其侵犯与人工智能系统相关的新闻内容版权。这两家公司否认了这些指控。

此报道最初发表于nytimes.com。点击这里阅读原文。

(以上内容均由Ai生成)