OpenAI禁用马丁·路德·金形象深伪视频

快速阅读: OpenAI因马丁·路德·金博士遗产管理方请求，禁止Sora生成其深度伪造视频，以防止不尊重描绘，加强历史人物保护。

OpenAI 因马丁·路德·金博士的遗产管理方提出请求，已禁止使用其人工智能应用程序 Sora 生成马丁·路德·金博士的深度伪造视频。本周五（10月17日），该公司发表声明称，由于一些用户利用该平台生成了对这位民权活动家的“不尊重描绘”，已暂停使用 Sora 生成马丁·路德·金博士的形象。

对于不熟悉这一技术的人来说，深度伪造是指通过数字手段将某人的面部、身体或声音篡改为另一个人的视频或图片，通常用于恶意目的或传播虚假信息。人工智能技术允许人们输入物理特征描述来创建完全虚构的图像，或者使用面部识别算法和人工神经网络重现真实人物的图像，并将其置于虚构场景中。这些深度伪造视频往往看起来非常逼真，以至于难以辨别其真实性，例如最近流传的杰克·保罗的假视频。

OpenAI 在其周五发布的推文中表示：“马丁·路德·金博士遗产管理公司（King, Inc.）和 OpenAI 共同努力解决了 Sora 生成中如何呈现马丁·路德·金博士形象的问题。部分用户生成了对金博士形象的不尊重描绘，因此在 King, Inc. 的要求下，OpenAI 已暂停生成金博士的形象，以加强针对历史人物的保护措施。”

声明还提到：“虽然描绘历史人物存在强烈的言论自由利益，但 OpenAI 认为公众人物及其家人应该对其形象的使用拥有最终控制权。授权代表或遗产所有者可以请求不在 Sora 中使用其形象。”OpenAI 感谢金博士的女儿伯妮丝·A·金博士代表 King, Inc. 提出这一要求，并感谢约翰·霍普·布赖恩特和人工智能伦理委员会为此类对话创造了空间。

据 BBC 报道，马丁·路德·金博士并非唯一一位受到此类趋势影响的人士，约翰·F·肯尼迪总统、伊丽莎白二世女王和斯蒂芬·霍金教授也成为了深度伪造视频的目标。本月早些时候，罗宾·威廉姆斯的女儿泽尔达呼吁人们停止制作并发送其父亲的人工智能视频给她。她在 Instagram 故事中写道：“请不要再给我发爸爸的人工智能视频了。请相信我，我不想看也不理解这些视频。如果你只是想恶作剧，我已经见过更糟糕的，我会屏蔽并继续前进。”

泽尔达恳求：“但如果你们还有点良知，请不要这样做，无论是对他还是对我，甚至是对所有人，都请停止。这是愚蠢的行为，是时间和精力的浪费，相信我，这绝不是他所希望的。”

在马丁·路德·金博士的消息传出后，有人认为 OpenAI 应该全面禁止所有名人深度伪造视频，而不仅仅是那些提出要求的名人。一名推特用户评论说：“干脆禁止使用任何人的形象吧，你们到底在干什么？”另一位用户赞同道：“他们从一开始就不应该允许未经同意使用任何人，包括已故人士的形象。”另一人则表示：“那么他们应该禁止所有形象的使用。”还有一人说：“所有名人的形象使用都应该立即被禁止。”

(以上内容均由Ai生成)