人工智能生成的亲伊朗宣传充斥着 TikTok、Instagram 和 YouTube

快速阅读: 据《福布斯》最新报道，七天前，TikTok上出现两条疑似AI生成的亲伊朗宣传视频，引发热议后被删除。这些视频未标注AI生成，引发真假难辨。社交媒体平台对AI内容有标注要求，但虚假信息仍易传播，加剧地区紧张。

德黑兰市的景象，伊朗。 NurPhoto 供图，来源：Getty Images

七天前，当美国总统唐纳德·特朗普提前离开七国集团峰会，并呼吁伊朗“无条件投降”时，一个匿名的TikTok账号发布了两条亲伊朗的宣传视频。其中一个视频显示一排女性在电脑前，似乎正在准备发射火箭。另一个视频显示一列装有导弹和伊朗国旗的坦克从隧道中驶出。

在接下来的几天里，美国将轰炸伊朗的核发展设施，从而卷入中东的另一场冲突。而在社交媒体上，这两段看起来像是AI生成的视频开始广泛传播——根据数据分析平台Zelf的数据，这两段视频成为过去一周关于伊朗的15个最热门TikTok视频之一，累计观看次数超过3000万次。然后，它们从平台上消失了。

七天前，当美国总统唐纳德·特朗普提前离开七国集团峰会，并呼吁伊朗“无条件投降”时，一个匿名的TikTok账号发布了两条亲伊朗的宣传视频。其中一个视频显示一排女性在电脑前，似乎正在准备发射火箭。另一个视频显示一列装有导弹和伊朗国旗的坦克从隧道中驶出。

Zelf截图
艾米丽·贝克·怀特
Zelf截图
艾米丽·贝克-怀特

这些看起来像是AI生成的视频不仅限于TikTok。它们还被发布到Instagram Reels和YouTube Shorts上的账户中，每个视频被发布超过100次，吸引了数百万次额外的观看量。在任何社交媒体网站上，这些视频都没有被标记为AI生成的内容，一些分享和评论这些视频的人似乎当真了。TikTok、YouTube和Instagram都要求创作者对逼真的AI生成内容进行标注。

（以前我在Facebook和Spotify做过内容政策相关工作。）

在YouTube上，有一条包含火箭女性的帖子带有免责声明：“这个频道为了拿钱或免费物品而制作了这段视频。”在另一条相同视频的YouTube帖子中，一位创作者用阿拉伯语添加了一段文字，让观众点赞和订阅。在Facebook上，有一位用户在火箭视频下发布了一个带翅膀和爱心眼的笑脸表情。其他人则回应以爱心和点赞。

没有任何社交平台禁止看起来像宣传内容的帖子——无论是来自伊朗、以色列、美国还是其他地方——只要它们不具有误导性，也不属于更大规模的虚假行为活动的一部分，这种活动使用假账号等手段传播欺骗性信息。政府，包括美国，都曾利用AI生成的宣传来推进自己的议程。以色列也在社交媒体平台上推出了大量付费广告活动，宣传其在加沙的战争。

然而，社交媒体上虚假战争图像的普遍出现可能会加剧国家及其民众之间的紧张关系，加剧群体间对立，并导致现实世界中的暴力。它还可能削弱冲突地区人们的信任，让他们更难分辨真假。最近几天，一些AI生成的图片和视频，描绘导弹落在特拉维夫和B-2轰炸机飞越德黑兰，也迅速走红，一些虚假媒体甚至被政府官员和国家媒体分享。

Meta的一位发言人拒绝就这些视频发表评论。YouTube的一位发言人杰克·马隆表示，尽管这些视频没有违反平台的规定，但公司已经添加了标签，正如它要求在“逼真”且可能具有误导性的AI生成视频上添加显眼的免责声明。TikTok也拒绝评论，但在《福布斯》联系他们寻求评论后，发布这些视频的匿名账号被删除了。

(以上内容均由Ai生成)