深伪技术与克隆声音扭曲欧洲选举
快速阅读: 2023年底，摩尔多瓦总统玛雅·桑杜遭AI伪造视频诽谤，视频由克里姆林宫关联的“Matryoshka”网络生成并通过Telegram和TikTok传播，严重损害摩尔多瓦政府声誉及欧洲形象。
广告
阅读更多
事情始于摩尔多瓦。2023年12月底，一段声称总统玛雅·桑杜否认政府并嘲笑国家欧洲抱负的视频在Telegram上疯传。
摩尔多瓦政府迅速驳斥该视频为假消息，但损害已经造成。据调查新闻网站Balkan Insight和假新闻监督机构Bot Blocker报道，克里姆林宫关联的机器人网络“Matryoshka”利用Luma AI视频平台生成了这段视频。视频以俄语配音，将桑杜描绘成无能且腐败的形象，重复了与逃亡寡头伊兰·肖尔有关的早期虚假信息。
法国网络安全机构Viginum后来描述了AI生成的深度伪造视频，包括模仿桑杜总统的那一段，是如何通过Telegram和TikTok由亲俄宣传网络，隶属于俄罗斯媒体《共青团真理报》，传播的。Viginum表示，像moldova-news.com这样的网站得到了其称为“有组织和协调的亲俄宣传网络”的支持。
网络水军和克隆技术
欧洲范围内的民主平台Alliance4Europe的研究员萨曼·纳扎里告诉RFI，使用AI影响选举的现象正在大幅增加。过去，想要影响选举的人会复制粘贴相同的文本多次。“现在他们只需让AI重写这些内容，发布到不同的账号和页面上，针对特定目标受众进行小幅度变动。”纳扎里说。他还提到，AI工具现在被用来使虚假信息操作显得更加合法。
法国外交部称，自2023年以来，网络攻击组织Storm 1516发起了77次针对法国、乌克兰和其他西方国家的俄罗斯虚假信息活动。纳扎里表示，这些行动是由圣彼得堡互联网研究所的继任者——俄罗斯反不公基金会——运行的，该基金会创建了看起来与知名媒体一模一样的网站。这些团体克隆新闻网站，用盗版文章填充，进行改写或翻译后再发布，以显得可信。Alliance4Europe在欧洲选举期间统计了数百个此类网站。“过去，创建网站并填充内容是一项大工程，但现在几乎可以自动完成。”纳扎里说。
尤金·普里戈任是互联网研究所的创始人，后成为瓦格纳集团的负责人，于2023年死于飞机失事。
个人目标
威胁正蔓延至西欧。CY Cergy Paris大学教授多米尼克·弗里宗·德·拉莫特成为AI生成视频的目标，该视频伪造了他的形象和声音，试图将其与摩尔多瓦的亲俄团体联系起来。“我与摩尔多瓦没有任何关系，甚至不用Telegram。”他告诉法国3电视台。该视频被欧盟虚假信息监测组EUvsDisinfo和法国媒体标记为企图破坏学者信任的行为。
2024年罗马尼亚总统选举带来了进一步的AI相关干扰证据。官员们表示，这一干扰普遍被认为是俄罗斯支持的行为者所为，导致罗马尼亚宪法法院取消了选举结果，这是欧洲前所未有的举动。在2025年中期的重新投票中，极右翼叙事和TikTok及Telegram上的虚假内容试图影响公众意见。最终，亲欧候选人尼库索尔·丹赢得了重选。
匈牙利的焦点
匈牙利正准备迎接2026年选举前的AI影响内容洪流。亲政府团体，包括民族抵抗运动，已花费超过150万欧元推广未标明的AI视频，攻击反对派领导人彼得·马加尔。一些视频显示了伪造的匈牙利士兵在乌克兰死亡的场景，以激发民族主义情绪。马加尔称这些视频“可笑”且是“选举欺诈”。分析人士表示，即使观众认为内容可能是假的，情感冲击仍然会影响意见。
在更大的法律框架下，欧盟有规定要求平台显示政治广告背后是谁。
欧盟在2022年引入了《数字服务法》，以加强平台关于透明政治广告的规定。委员会还运营着快速警报系统和AI诚信工作组，以检测和对抗跨语言和国界的操纵内容。
法国网络安全机构警告TikTok操纵可能再次影响罗马尼亚的投票
选民面临风险
纳扎里表示，年轻人习惯在网上看到经过修改的图像和深度伪造。
年轻人是在表情包和深度伪造的环境中长大的，他们熟悉这些概念，经常制作和分享经过编辑的图片和视频。然而，年长的选民更容易被误导，可能无法区分真实视频和深度伪造视频，特别是在数字素养不高的国家，这一群体尤其脆弱。
(以上内容均由Ai生成)
