适应与创新：公民空间对 AI 注入选举的回应
快速阅读: 据《民主与技术中心》最新报道，报告分析了人工智能在2024年全球选举中的影响，探讨了公民社会的应对策略，并提出增强信息韧性的建议。
**适应与创新：公民空间对人工智能赋能选举的回应**
**透明投票箱的插图，周围环绕着旋转的信息环境（包括纸张、社交媒体帖子和选票等），悬浮在地球上方。阴沉的数字雷暴（云朵和闪电）围绕着投票箱飘动。**
**引言**
人工智能化身提供了有关委内瑞拉有争议选举的独立新闻报道，使记者能够保护自己的身份并避免出于政治动机的逮捕。英国选民可以投票给一个人工智能化身，以在议会中占据席位。一段深度伪造视频显示美国总统乔·拜登威胁要对南非实施制裁，如果现任非洲国民大会获胜。这些只是2024年数百种生成式人工智能在选举中使用的方式之一，这一年被称为“选举年”，并被描述为新技术可能对全球人权和民主造成持久损害的时刻。
尽管技术专家和安全专家自至少2010年代中期起就已将深度伪造视为对选举的威胁，但2024年的集中关注是对前一年人工智能热潮的反应。2023年9月，斯洛伐克一位领先的议会候选人输掉了选举，两天前发布了一段抹黑他的假音频，引发了对深度伪造是否改变了选举结果的猜测。年初，OpenAI的ChatGPT创下“历史上增长最快的消费类应用”纪录。尽管2024年底有关于人工智能对选举风险的夸大程度的争论，但在某种程度上后果是明确的：这项技术改变了世界各地利益相关者的工作方式。
从巴西到菲律宾的政府通过了新的法律和法规，以规范选举中生成式人工智能的使用。欧盟委员会发布了针对大型公司在2024年6月选举前保护信息环境的指导方针，包括标记人工智能生成的内容。美国选举管理员采用了新的通信策略，以适应人工智能驱动的信息环境。政治竞选活动和候选人采用人工智能工具制作广告并协助选民接触。印尼的候选人付费使用ChatGPT撰写演讲稿并制定竞选策略。在印度，候选人使用自己的人工智能深度伪造音频和视频，以便更个性化地接触选民。德国极右翼政党AfD在Meta平台上投放了反移民广告，其中一些广告包含了人工智能修改过的图像。
尽管近期信任与安全团队的预算被削减，社交媒体平台和人工智能开发者还是实施了一些选举诚信计划。二十七家科技公司签署了《人工智能与选举协议》，承诺在一年内通过改进检测、溯源和其他努力来应对“欺骗性人工智能选举内容”。谷歌限制了Gemini聊天机器人对涉及选举查询的回复，而OpenAI宣布ChatGPT将在用户询问某些选举前的投票问题时将用户重定向到外部来源。谷歌和Jigsaw与媒体、民间社会及政府合作伙伴在欧盟选举前开展了公众媒体素养教育工作，包括关于生成式人工智能的内容。
为了应对人工智能工具加速或增加对信息环境的威胁，民间社会行动者也调整了工作方式。本报告通过三个案例研究探讨了他们在2024年选举期间为构建弹性信息环境所做的贡献：（I）墨西哥的事实核查集体，（II）台湾民间社会的去中心化和协调，以及（III）媒体、学术界和民间社会组织的AI事件跟踪项目。案例研究突显了建立弹性信息环境的各种方法。它们展示了人工智能如何复杂化这项工作，以及如何用于支持韧性建设工作。从WhatsApp上的事实核查机器人到编目数百个深度伪造，这些方法从不同角度触及信息韧性。
**案例研究**
**一、墨西哥的事实核查集体**
墨西哥的事实核查集体在2024年选举期间发展出独特的策略，特别是在敌对媒体环境的背景下。案例研究详细探讨了人工智能生成内容在选举中的作用，以及WhatsApp和人工智能在事实核查工作中的应用。通过与地方社区合作，事实核查团队不仅识别了虚假信息，还帮助公众了解如何辨别真实信息和深度伪造内容。
**二、台湾民间社会的去中心化与协调**
台湾的民间社会展现了协作但去中心化的运作模式。面对大量与中国政府有关的虚假信息运动，台湾的民间组织通过研究影响行动、事实核查或信息素养编程以及政府政策，积极对抗错误信息。案例研究特别强调了民间社会在信息韧性建设中的关键角色。
**三、AI事件跟踪项目**
由媒体、学术界和民间社会组织组成的跨领域团队，在2024年全年追踪了全球范围内生成式人工智能在选举中的应用。他们的工作对公众理解人工智能在选举中的影响做出了重要贡献，并为未来的政策改进提供了宝贵的经验。案例研究还探讨了数据收集的挑战以及如何在高调主题下进行平衡研究。
**结论**
尽管案例研究涵盖不同的政治背景和干预类型，但出现了共同的主题。组织从同行群体的互补或协作工作中受益。他们还利用人工智能加强自己的工作。然而，民间社会行动者面临资金和能力限制、从公司获得信息不足、难以检测和验证人工智能生成内容以及媒体韧性工作的政治化等问题。最后，案例研究表明，选举中的人工智能问题不是暂时的。这些团体在2025年及以后将继续成为公共和私人行动者不可或缺的资源和伙伴。
**建议**
根据《人工智能与选举协议》的公司承诺期满以及全球政治环境中对与选举、事实核查和虚假信息研究相关工作的日益敌意，标志着在信息韧性最紧迫威胁方面缺乏引领作用。因此，报告最后提出了公司和民间社会行动者如何通过推动合作、制定公司政策并增强透明度和数据获取来继续支持信息韧性的建议。
**阅读完整报告**
（此处可添加报告下载链接或二维码）
(以上内容均由Ai生成)
