OpenAI禁用马丁·路德·金肖像深伪视频

快速阅读: OpenAI因马丁·路德·金博士遗产管理公司要求，禁止在其AI应用Sora上生成金博士的深度伪造视频，以防止不尊重的描绘。此举引发关于名人形象使用的伦理讨论。

OpenAI 在收到马丁·路德·金博士遗产方的要求后，禁止了使用其形象生成的深度伪造视频。10月17日，这家人工智能公司发表声明，宣布因“不尊重的描绘”，在AI应用Sora上生成涉及这位民权活动家的内容已被暂停。

对于不熟悉的人来说，深度伪造是指通过数字手段改变面部、身体或声音的视频或图片，使其看起来像是其他人，通常用于恶意目的或传播虚假信息。AI技术允许人们输入物理特征描述来生成完全虚构的形象。或者，通过面部识别算法和人工神经网络重建真实人物的形象，并将其置于虚构场景中。令人担忧的是，这些深度伪造往往非常逼真，难以辨认，比如最近流传的杰克·保罗的假视频。

OpenAI被迫禁止了马丁·路德·金博士（图片来源：Bettmann/Getty Images）的深度伪造视频。这类行为引发了众多伦理问题，尤其是针对已故名人如金博士等人的深度伪造。

OpenAI在周五发布的推特声明中表示：“马丁·路德·金博士遗产管理公司（King, Inc.）与OpenAI合作，解决Sora生成内容中如何呈现金博士形象的问题。一些用户生成了对金博士形象的不尊重描绘。因此，在金博士遗产管理公司的要求下，OpenAI暂停了涉及金博士形象的生成，以加强历史人物的保护措施。”

声明继续说：“尽管描绘历史人物存在强烈的言论自由利益，但OpenAI认为公众人物及其家人应该对其形象的使用有最终决定权。授权代表或遗产所有者可以请求不在Sora中使用他们的形象。OpenAI感谢伯尼丝·A·金博士代表金博士遗产管理公司联系我们，以及约翰·霍普·布赖恩特和AI伦理委员会为此类对话创造空间。”

据BBC报道，金博士并非唯一受此趋势影响的人，约翰·肯尼迪总统、伊丽莎白二世女王和斯蒂芬·霍金教授也成为了深度伪造的目标。本月早些时候，罗宾·威廉姆斯的女儿泽尔达恳求人们停止制作和发送她已故父亲的AI视频。

她在Instagram故事中写道：“请不要再给我发AI视频了。不要以为我会想看或能理解，我不会，也不会理解。如果你只是想捉弄我，我已经见过更糟的，我会屏蔽并继续前进。”泽尔达还请求：“如果有任何良知，请停止这样做，对他，对我，对所有人，都停止。这很愚蠢，浪费时间和精力，相信我，这不是他想要的。”

在金博士的消息传出后，一些人认为OpenAI需要全面禁止所有名人的深度伪造，而不仅仅是那些提出请求的。一位推特用户写道：“干脆禁止使用任何人的形象吧。”另一位用户同意：“他们不应该允许未经同意使用任何人的形象，包括已故人士。”还有人评论：“那么就应该全面禁止。”另一条留言说：“所有名人形象的使用都应该立即被禁止。”

(以上内容均由Ai生成)