谷歌的 Veo 3 被用于制作社交种族主义视频

快速阅读: 《B&T 营销与媒体》消息，谷歌AI视频生成器Veo被用于制作种族主义和反犹太主义内容，引发社交媒体平台担忧。这些视频包含黑人被描绘成猴子、犹太人被丑化等刻板印象，TikTok已删除相关视频。谷歌未回应如何防止此类内容。

谷歌的AI视频生成器Veo正被用来制作描绘种族主义和反犹太主义刻板印象的视频，这些视频随后在社交媒体上分享给数百万粉丝。警告：一些读者可能会觉得本文中的视频和图片令人反感和不安。

由“媒体事务美国”（Media Matters for America）进行的一项调查发现，该机构负责监控媒体以防止保守派虚假信息，发现了视频示例，其中黑人被描绘成猴子、罪犯，并热衷于西瓜和炸鸡。它发现了多个种族主义AI视频，在TikTok上吸引了数百万次观看（见下文视频），但B&T注意到类似内容也在其他社交媒体平台上传播，包括Instagram和YouTube。

这一发现突显了社交媒体公司面临的挑战，即监控和防止强大的AI视频生成工具被用于在其平台上传播种族主义和仇恨。此类内容违反了其社区准则，TikTok已经采取措施删除了媒体事务报告中确定的视频。在上述视频之一中，黑人被描绘成猴子并闯入肯德基餐厅偷鸡，而在另一个视频中，一名白人女性尖叫着“我怀孕了”，而她的所谓伴侣——一只猿猴，则被看到开着肌肉车驶离。另一段视频显示一名警察在“低数量”状态下使用鱼竿和西瓜作为诱饵来吸引一名黑人女性，这段视频被观看了210万次。

另一段视频则显示一个“大脚怪”（Big Foot）骑着马，穿着三K党长袍和斗篷，追赶一名黑人男子。还有视频显示南亚人被一个巨大的肥皂和淋浴头追逐，而东正教犹太男子则追逐着山下的一大堆金币，另一段视频则描绘了一名犹太男子在集中营中享受，并说虽然有点烟雾缭绕，“这里闻起来真的很好”。由谷歌Veo 3生成的一段AI视频，描绘了一个反犹太主义的刻板印象。

在TikTok上，B&T发现有数十个视频显示警察用西瓜引诱黑人或猴子形象，称为“Nikka”——可能是为了规避与“N”开头的类似发音的种族主义术语的检测。还有数十个视频展示了反犹太主义的犹太刻板印象。媒体事务和B&T所识别的所有视频都明显带有“Veo”的水印，并在社交媒体平台上分享。

谷歌的Veo 3于5月底隆重推出，允许普通公众创建8秒的视频片段。使用Veo时，隐私政策声明指出：“labs.google/fx是一种实验性技术，有时可能会提供不准确的信息，包括关于人的信息，或不当信息，不代表谷歌的观点。” B&T联系了谷歌，以了解Veo 3的使用政策以及它采取了哪些措施来防止Veo生成种族主义和仇恨内容。在本文发表前，谷歌没有做出回应。

TikTok有明确的社区准则，禁止展示仇恨言论和对种族和民族群体的去人性化的内容。TikTok的一位发言人告诉B&T：“我们积极执行针对仇恨言论和行为的严格规定，并已删除我们在报告中确定的账户，其中许多账户在报告发布之前就已经被封禁。”

加入超过30,000名广告行业专家，获取最新广告和媒体新闻。订阅相关文章：

– 谷歌推出首个YouTube创作者系列
– 公关的回归：人工智能革命中的秘密武器
– Born Creators Group推出社交站
– 朱莉·弗洛伊德重返Circul8，担任制作主管

(以上内容均由Ai生成)