“真正可怕的领域”：人工智能在破坏民主方面的作用越来越大
快速阅读: 据《爱尔兰时报》称，生成式AI在选举中被用于制造虚假内容，影响选民，加剧社会分裂。罗马尼亚总统选举受俄方AI操控，引发重新投票。专家警告AI威胁民主信任。
自过去两年生成式人工智能技术爆发性发展以来，这项技术不仅被用来贬低或诽谤对手，而且——根据官员和专家的首次指出——已经开始对选举结果产生影响。这些易于使用的AI工具制造了大量虚假的照片和视频，显示候选人或支持者说了他们从未说过的话，或者出现在他们并未到场的地方——这一切都在网络匿名的相对免责环境下传播。这项技术加剧了社会和党派分歧，并增强了反政府情绪，尤其是在极右翼群体中，近年来在德国、波兰和葡萄牙的选举中，极右翼势力大幅崛起。
据政府官员称，在罗马尼亚，一项利用AI的俄罗斯影响力行动玷污了去年总统选举的第一轮投票。当地的法院宣布该结果无效，迫使上个月重新进行投票，并引发了一轮新的伪造内容。这是第一次AI在选举结果中发挥决定性作用的重大选举。这很可能不会是最后一次。
阅读更多：谷歌Veo 3评测：视频创作迈入AI新阶段；莱斯利·巴克利和丹尼斯·奥布莱恩试图通过INM数据泄露事件篡改历史；克里夫·泰勒：特朗普最新200%药品关税威胁引发爱尔兰重大问题。
随着技术的进步，官员和专家警告称，它正在削弱人们对选举公正性的信任，并侵蚀民主社会运作所需的共识。
布加勒斯特国家政治研究与公共管理大学教授马达琳娜·博坦表示，毫无疑问，这项技术已经被“用于明显恶意的目的”来操纵选民。“这些机制如此复杂，以至于它们真的在非常短的时间内让一段内容迅速走红，”她说。“有什么能与之竞争？”
根据总部位于瑞士的独立科学组织“信息环境国际小组”的数据，在2024年异常集中的选举浪潮中，AI被用于超过80%的选举。该小组记录了当年215起选举中使用AI的案例，基于政府声明、研究和新闻报道。今年，AI已在至少九场大选中发挥作用，从加拿大到澳大利亚。
并非所有用途都是有害的。在该小组调查的25%的案例中，候选人自行使用AI，依靠它将演讲和政策翻译成当地方言，并识别目标选民群体。然而，与此同时，数十个深度伪造（即复制真实人物的照片或视频）被用于克隆候选人的声音或新闻广播。根据“信息环境国际小组”的调查，AI在69%的案例中被描述为具有破坏性。
去年美国总统选举中有很多恶意例子，引发了网络安全与基础设施安全局、国家情报总监办公室和联邦调查局官员的公开警告。在特朗普任期期间，这些机构解散了负责这些工作的团队。
佛罗里达国际大学教授英格·克里斯蒂娜·特劳希格表示：“在2024年，这些技术的潜在好处几乎被其有害的滥用所掩盖。”她领导了国际小组的调查。
AI最密集的欺骗性使用来自专制国家试图干涉国外选举，包括俄罗斯、中国和伊朗。这项技术使他们能够放大对更顺从其世界观的候选人的支持——或者只是为了诋毁民主治理本身作为一种劣等政治制度的概念。
一个俄罗斯活动试图在波兰上月总统选举前煽动反乌克兰情绪，许多乌克兰难民已迁移到那里。它制作了虚假视频，暗示乌克兰人计划发动袭击以扰乱投票。
在之前的选举中，外国努力繁琐且成本高昂。他们依赖于“机器人农场”中的工作人员在社交媒体上创建账号和内容，通常使用生硬的语言和文化错误。有了AI，这些努力可以在以前难以想象的速度和规模上完成，当时广播媒体和报纸是主要的政治新闻来源。
欧洲联盟的研究人员萨曼·纳扎里表示，今年的德国和波兰选举首次展示了这项技术在外国活动和国内政党中的应用效果。“AI将对未来民主产生重大影响，”他说。
像Midjourney的图像生成器和谷歌新推出的AI音频视频生成器Veo这样的商用工具的进步，使得区分虚构内容和现实变得更加困难——尤其是在快速浏览时。埃隆·马斯克开发的AI聊天机器人和图像生成器Grok能够轻易复制流行人物的形象，包括政治人物。这些工具使得政府、公司和研究人员更难识别和追踪日益复杂的活动。
在AI出现之前，“你必须在规模和质量之间做出选择——质量来自于人类‘机器人农场’，而规模则来自于可以提供但质量较低的机器人，”战略对话研究所技术与社会主任伊莎贝尔·弗朗西斯-赖特说。“现在你可以同时拥有两者，而这确实是一个令人担忧的领域。”
Facebook、X、YouTube和TikTok等主要社交媒体平台都有针对AI滥用的规定，并在涉及选举的几个案例中采取了行动。然而，研究人员表示，这些平台由对任何能保持用户浏览的事项有既得利益的公司运营，因此平台应采取更多措施来限制误导性或有害的内容。
例如，在印度的选举中，Meta平台上很少有人工智能内容按照公司要求加上免责声明，根据媒体参与中心的研究，Meta未回应相关评论请求。
这不仅仅是虚假内容的问题。诺特丹大学的研究人员去年发现，由AI工具生成的虚假账户可以轻松规避八个主要社交媒体平台的检测：LinkedIn、Mastodon、Reddit、TikTok、X以及Meta的三个平台：Facebook、Instagram和Threads。
引领生成式AI产品潮流的公司也制定了反对操纵性使用的政策。根据公司报告，2024年OpenAI在其议会选举期间挫败了针对卢旺达、美国、印度、加纳和欧盟的五项影响力操作。本月，该公司披露，它发现了在德国2月份选举期间使用ChatGPT的俄罗斯影响力操作。在一个案例中，该操作在X平台上创建了一个机器人账号，积累了27,000名关注者，并发布支持极右翼政党“德国选择党”（AfD）的内容。这个曾被视为边缘的政党，一举跃升至第二位，议会席位翻倍。
“不知为何，今天的街头气氛更糟了”：爱尔兰人在德国对极右翼AfD的选举成功作出反应（《纽约时报》起诉了OpenAI及其合作伙伴微软，指控他们侵犯了与AI系统相关的新闻内容的版权。OpenAI和微软否认了这些指控。）
最破坏性的案例发生在去年年底罗马尼亚的总统选举中。在11月的第一轮投票中，一位鲜为人知的极右翼候选人卡尔林·乔治斯库在一项隐秘的俄罗斯行动帮助下迅速领先，其中包括在TikTok上协调的虚假活动。批评人士，包括美国副总统JD·瓦恩斯和马斯克，谴责法院随后取消投票本身的做法是不民主的。“如果你的民主可以被外国几百万美元的数字广告摧毁，”瓦恩斯在2月说，“那么它一开始就不够强大。”
上个月，法院下令重新举行选举。面对刑事调查的乔治斯库被禁止再次参选，为另一位民族主义候选人乔治·西米昂腾出了空间。研究人员来自保加利亚-罗马尼亚数字媒体观察站，称类似的大量操控内容再次出现，包括让特朗普看起来批评该国现任领导人的虚假视频。
布加勒斯特中间派市长尼库索尔·丹在5月18日的第二轮投票中胜出。欧盟已开始调查TikTok是否充分限制了平台上的操控活动和虚假信息。它还调查该平台在爱尔兰和克罗地亚选举活动中的作用。
TikTok在声明中表示它迅速删除了违反其政策的帖子。它表示，在罗马尼亚第二轮投票前两周内，它删除了超过7,300条帖子，其中包括一些由AI生成但未被识别的帖子。它拒绝就这些声明之外的内容发表评论。
CivAI非营利组织创始人卢卡斯·汉森表示，他担心的不仅仅是深度伪造可能欺骗选民的潜力。他警告说，AI正在如此混乱公众辩论，以至于人们变得沮丧。“信息生态系统的污染将是最难克服的事情之一，”他说。“我不确定是否有办法回到过去。”
——这篇文章最初发表于《纽约时报》
(以上内容均由Ai生成)
