AI 和 deepfakes 的兴起为 GE2025 做好准备

快速阅读: 《亚洲新闻台》消息，新加坡面临AI生成的深度伪造视频挑战，政府已立法禁止选举期间相关虚假内容，但执法和平台措施仍显不足。专家呼吁加强资源投入与公众辨识力，共同维护选举诚信与民主进程。

例如，这段关于新加坡已故开国总理李光耀的TikTok视频在4月9日下午已经获得了176,700次观看。它是由@goodmorningmrlim于今年3月21日创建的，并带有“创作者被标记为AI生成”的标签。与此同时，这段关于新加坡民主党（SDP）主席谢顺用于似乎哭泣的TikTok剪辑，配以“武吉巴督单选区不再有竞争。谢顺用于将在2025年大选中去哪里？”的字幕，却没有上述标签。该创作者@aixinjiaposg在其简介中包含了“AI生成内容”。该视频于3月13日创建，截至4月9日下午已获得24,300次观看。这些视频出现在新加坡领导人警告针对他们的深度伪造视频之际。副总理黄循财在三月份警告说，有关他推销加密货币和永久居民申请服务等产品和服务的深度伪造视频和图像。去年六月，资深部长李显龙也警告说，有人恶意制作了有关他评论国际关系和外国领导人的深度伪造视频。

最近，一个名为@ahboon87a的TikTok账号利用李光耀去世作为开头，随后转向移民、住房和交通等热点问题，并质疑新加坡是否实现了其领导人之前承诺的目标。@ahboon87a的视频对政府持负面态度。这些视频可能是使用公开可用的图片、AI生成的内容以及文本转语音软件拼凑而成，从4月6日至7日逐步发布。截至4月9日下午，这两段最受欢迎的视频分别获得了超过80,800次和49,300次观看，还有数百条评论和反应。这些问题视频的重点是将外来劳动力和移民与新加坡人的困境对立起来。

由@ahboon87a发布的这段TikTok视频使用了AI生成的图像和文本转语音软件来引起人们对移民和外来劳动力等热点问题的关注。该账户的第一篇帖子是在2023年11月30日发布的，但其下一篇文章直到2025年4月初才发布。

为什么现在要担心这个问题？

随着生成式人工智能的快速发展，深度伪造视频已成为过去一年左右世界各地选举的一个特征——包括美国总统选举，以及印度尼西亚和印度的选举。新加坡南洋理工大学拉惹勒南国际研究院（RSIS）高级研究员黄彬强先生告诉《亚洲新闻台》（CNA），公开的统计数据显示，深度伪造的数量在2022年至2023年间增长了十倍以上，然后在2023年至2025年间又增长了十倍。新加坡的情况也不例外，只是其政府提前采取措施，以遏制其在即将举行的大选前的影响，大选必须在今年11月之前举行。随着新选区划分的公布，各政党在预期选举可能比预期更早进行的情况下加大了活动力度。但随着选举新闻和讨论的增加，针对政党与候选人的深度伪造及其他数字操控内容也在增加。

学术界卡罗尔·孙博士告诉《亚洲新闻台》，虽然无法确定此类内容对选举结果的确切影响，但确实存在现实世界的后果。例如，虚假信息会“污染信息生态系统”并增加人们的困惑。她补充说，虽然有些AI内容是为了娱乐或幽默而创作的，但也有可能让人感到困惑。这就是为什么即使创作这些内容的意图是良性的，也需要要求人们对其标注的原因，她补充道。“这将通过让人们意识到不同类型的操纵内容来增强人们对深度伪造的免疫力。”

另一位学者，法学教授尤金·谭指出，创建此类内容的门槛较低。他说，新加坡管理大学永隆法学院的副教授还指出，很少有人会认真对待事实核查。同时，此类内容消耗了宝贵的资源。孙博士说，媒体、政府和政治候选人需要花费时间和金钱来揭穿这些虚假信息，而这些信息本可以用来教育公众解决社会问题。

政治家们怎么想？

线上看到的一些被篡改的视频中出现的一位政治人物是人民力量党（PPP）主席吴孟盛。在其中一段视频中，他脸上涂着小丑妆。他对《亚洲新闻台》表示，他知道这类视频的存在，虽然他相信言论自由，但他遗憾地表示，一小部分人以“不成熟的行为”表达观点。吴先生表示，他对这些视频对自己或他的政党产生任何重大负面影响并不太担心。他补充说，如果这些AI生成的视频中包含严重失实或诽谤内容，他将采取“果断行动”。

执政的人民行动党（PAP）也发现其多名成员，包括黄循财总理和部长陈春新、王乙康和尚达曼，出现在这样的篡改内容中。当被问及此事时，该党发言人表示，在线错误信息和AI驱动的深度伪造视频是全球各国，包括新加坡的关注点。“这不是只影响政治家的问题，而是影响所有人的问题，”发言人补充说。

进步新加坡党（PSP）拒绝就本文发表评论，而工人党没有回应查询。

现有的措施

新加坡当局预见到这种情况，已于去年十月通过了一项法律来应对这一问题。《选举（网络广告诚信）（修订）法案》禁止在选举期间发布在视觉上逼真地描绘候选人说出或做出他们未曾说过或做过的事情的数字化生成或篡改内容。该法律适用于描绘竞选候选人的在线选举广告，一旦选举令状发布并持续到投票结束为止生效。

根据该法律，负责监督选举的选举官可以向发布此类内容的个人、社交媒体服务提供商以及互联网接入服务提供商发出纠正指示，要求删除违规内容，或在选举期间阻止新加坡用户访问此类内容。未遵守规定的社交媒体服务提供商将面临最高100万新元的罚款。对于其他人，不遵守规定可能导致最高1000新元的罚款、最长12个月的监禁，或两者兼施。

候选人可向选举官申请审查可能违反禁令的内容并发出纠正指示。如果评估为真实案件，可以发出纠正指示。

然而，如果这项法律尚未生效，该怎么办呢？

当被问及此事时，数字发展和信息部（MDDI）将《亚洲新闻台》指向该法案在议会辩论时的发言。具体而言，数字发展和信息部长何佩芝在该法案第二次读法时的闭幕演讲中指出，该立法重点关注选举期间特定类别的深度伪造。

何佩芝在一段深度伪造视频中，用以强调《选举（网络广告诚信）（修订）法案》的重要性。

其他法律如《防止网络虚假信息和操纵法》（POFMA）和《网络犯罪危害法》（OCHA）可用于应对其他形式的深度伪造。

此外，何佩芝表示，资讯通信媒体发展管理局（IMDA）将引入行为守则，以处理所有时间的数字操纵内容，而不仅仅是选举期间。她说，这将要求社交媒体公司发挥更大作用来应对深度伪造，因为它们塑造了我们的在线体验。她补充说，该行为守则预计将在今年推出。

社交媒体公司在做什么？

在其端口，像谷歌、Meta和TikTok这样的科技巨头告诉《亚洲新闻台》，它们正在采取措施应对这种数字操纵内容。TikTok，其平台托管了许多在这里提到的AI生成和修改的内容，要求创作者相应地标记AI生成的内容，并不允许有害的误导性AI生成的公众人物内容，包括虚假地描绘他们支持某种政治观点或被支持的内容。

具体到新加坡大选，它表示，一个由多学科团队组成的本地选举特别工作组已经成立，专注于民主、选举、民间社会和技术。它补充说，“工作已经开始”，并与区域安全咨询委员会的专家展开合作，如新加坡国立大学的Natalie Pang和其他学者。Pang博士是新加坡国立大学传播与新媒体系的负责人。

同样，Meta表示，它组建了一个由来自广泛学科的主题专家组成的团队，包括选举诚信、错误信息、安全、人权和网络安全，以监测和应对新兴风险。Meta表示，覆盖新加坡选举的团队包括熟悉当地背景和法律法规的新加坡国民。

当被问及这个团队有多大时，一位公司发言人拒绝评论。Meta运营Facebook、Instagram、Threads以及聊天应用WhatsApp。

至于AI生成的内容，Meta表示，广告商在某些情况下必须披露是否使用AI或其他数字方法来创建或修改关于社会问题、选举或政治的广告。发言人告诉《亚洲新闻台》，未披露可能导致广告被移除，重复未披露可能导致“账户处罚”。Meta还在Facebook和Instagram上为AI生成的内容引入了标签。

一旦意识到违反社区标准，它将删除任何内容，并且这适用于所有内容，包括那些由AI生成或修改的内容。

与此同时，谷歌表示，它要求YouTube创作者在创建现实的改动或合成内容时进行披露，并附有标签。如果内容可能使观众感到困惑或误导，它也可能添加标签。它补充说，其错误信息政策“禁止技术上被操纵的内容，这些内容可能误导用户并造成重大伤害”。

这些努力足够吗？

新加坡国立大学的孙博士说，科技巨头正在努力减轻与生成式AI及其使用相关的风险。“然而，最近削减信任和安全人员数量令人担忧，这意味着科技公司将在应对日益增多的错误信息和虚假信息方面拥有更少的资源，”她说。

TikTok在2025年2月宣布在全球范围内重组其信任和安全团队，同时裁减数百名内容审核员岗位，因为它转向在这一领域更多地使用AI。

Meta也最近在美国停止了事实核查计划，并转向类似X社交网站上的“社区笔记”，即以前的Twitter。

谭副教授也表达了这一点，他说，由于缺乏资源，我们应该假设这些平台“不能依赖”来有效对抗错误信息和虚假信息。

九天的短竞选期和冷静日意味着几乎没有时间处理这类内容，他补充说。

然而，鉴于这些科技巨头在识别平台上的版权侵权方面取得了很大进展，黄先生表示，他们应该在识别深度伪造等合成内容方面投入相同规模的资源。

至于当前的法律制度是否足以应对这一威胁，SMU教授表示，鉴于《选举（网络广告诚信）（修订）法案》仅在内容发布后进行处理，尚待观察。他指出，这些法律没有“预防或防护能力”。

“很可能是‘打地鼠’的方法，但这是技术能力所决定的现实，”谭副教授说。“你不能全面禁止这类内容，因为那会在大选期间干扰政治沟通。”

解决这个问题还需公民尽一份力。RSIS的黄先生说，应对错误信息或简单来说的老式谎言和谣言的威胁需要“法律、事实核查、媒体素养、教育、公民意识和个人责任的综合力量来阻止和思考后再分享”。

人民行动党发言人也鼓励新加坡人通过其官方党派网站和社交媒体账户等可信来源核实信息。

“通过保持信息畅通并共同努力，我们可以营造一个安全的数字环境，保护我们的社区并维护我们的民主进程，”发言人说。

谭副教授也敦促新加坡人在消费AI生成或修改的内容时保持辨别力。

(以上内容均由Ai生成)