OpenAI加强措施，打击名人Deepfake视频

快速阅读: OpenAI宣布加强Sora应用防护措施，防止未经授权制作名人肖像视频，此前因深度伪造视频引发争议，包括种族主义内容。AI公司与权利持有者间的冲突凸显。

周一，OpenAI宣布将采取更多措施，阻止其AI视频生成应用Sora的用户制作演员和其他名人的肖像视频。此前，演员布莱恩·克兰斯顿及代表电影和电视演员的工会表示，未经表演者同意，有人正在制作深度伪造视频。克兰斯顿、美国演员工会-美国电视和广播艺人联合会（SAG-AFTRA）以及几家人才代理公司称，他们与ChatGPT的制造商达成了协议，涉及在Sora中使用名人肖像的问题。联合声明突显了AI公司与权利持有者，如名人遗产、电影制片厂和人才代理之间的激烈冲突，以及生成式AI技术如何继续侵蚀现实。

Sora是ChatGPT的一个新姐妹应用，允许用户创建并分享AI生成的视频。该应用三周前高调推出时，AI爱好者们纷纷寻找邀请码。但Sora的独特之处在于，它允许用户使用其他人的录制肖像，将其置于几乎任何AI视频中。这有时显得奇怪而有趣，有时则是无尽的、几乎无法与现实区分的深度伪造视频。

克兰斯顿注意到Sora上线时他的肖像被用户使用，随后通知了他的工会。新的协议重申，名人必须选择同意将其肖像用于AI生成的视频。OpenAI在声明中表示，已“加强了对声音和肖像复制的防护措施”，并对这些“无意生成”的内容表示遗憾。尽管OpenAI已经设置了防止制作知名人士视频的防护措施——例如，我尝试请求生成泰勒·斯威夫特在舞台上的视频时被拒绝——但这些防护措施并不完美。上周，出现了越来越多以马丁·路德·金博士为主题的视频，从奇怪的深度伪造视频到明显带有种族主义色彩的内容。

OpenAI在周五的一份声明中称，这种“不尊重的表现”是该公司暂停生成金博士视频功能的原因之一。金的女儿伯妮斯·A·金上周公开要求人们停止向她发送AI生成的父亲视频。这一呼吁得到了喜剧演员罗宾·威廉姆斯的女儿泽尔达的支持，后者称这类AI视频“令人作呕”。

OpenAI表示，“相信公众人物及其家人应该对其肖像的使用拥有最终控制权”，并且“授权代表”可以请求不在Sora中包含其肖像。在这种情况下，金的遗产管理方负责决定其肖像的使用方式。这不是OpenAI第一次依赖他人做出此类决定。在Sora上线前，据报道，该公司曾告知一些与好莱坞相关的才艺经纪公司，它们需要选择不将其知识产权包含在Sora中。然而，这一初步做法与数十年来的版权法不符——通常，公司需要获得受保护内容的许可才能使用——几天后，OpenAI改变了立场。这是AI公司和创作者之间因版权问题发生冲突的一个例子，包括通过高调诉讼的方式。

（披露：CNET的母公司Ziff Davis于4月对OpenAI提起诉讼，指控其在训练和运营AI系统时侵犯了Ziff Davis的版权。）

(以上内容均由Ai生成)