深度伪造警告

快速阅读: 据《牙买加观察家》最新报道，学者马修·斯通呼吁禁止用生成式AI制作政治广告，警告深度伪造可能造成不可逆损害。他担心即将到来的牙买加大选中，人工智能会被隐秘使用影响选举。政府承诺捍卫民主，正组建团队应对AI挑战。

人工智能研究学者马修·斯通呼吁在即将到来的全国大选中禁止将生成式人工智能用于政治广告，并警告使用深度伪造可能造成的不可挽回的损害。作为机器人与人工智能公司斯通科技有限公司的首席执行官，以及牙买加人工智能协会会长的斯通，在最近一期虚拟脱口秀节目《心连心》中提出了这一建议。他告诉主持人泰瑞尔·摩根，鉴于追踪AI生成的虚假图片或视频（深度伪造）来源的困难性，最好的办法是采取威慑措施。

“有时候我们甚至不知道是谁发起的……所以你无法惩罚那些始作俑者；它可能来自暗网，这使得追踪源头变得更加困难。任何人都可以发布或重新分享它们；法律应尽可能地阻止人们这样做。”斯通对摩根说道，“因此，我特别建议在政治广告的使用上，禁止使用生成式人工智能。”

他补充道，如果放任不管，政治对手可能会利用这项技术相互攻击，并造成持久的负面后果。“生成式人工智能是让人工智能创造新信息的能力，所以我们不是在谈论从人们那里获取信息……通过生成式人工智能技术，它可以真正制作出总理或反对党领袖说他们实际上没有说的话的假视频。因此，一个政治对手可以利用AI生成的视频，指控某人做了什么，用AI制作他们做这件事的视频，看起来毫无破绽——难以辨别真伪——即使当事人否认并证明这不是他们做的，事实是，它已出现在社交媒体上。人们会分享它，叙事已经被传播开来，这样的事情绝对会影响选举结果。”斯通说。

斯通指出，这种工具已经在其他国家如美国的决选中被使用过，他表示：“我相信如果现在没有法律禁止使用它，某个政党或政党的代表在即将到来的选举中肯定会使用生成式人工智能。”

与此同时，斯通表示，他对即将参加议会选举的各方可能以更加隐秘的方式使用人工智能感到担忧，这些选举根据宪法应在今年9月之前举行。“2015年有一家名为剑桥分析的数据挖掘公司……它基本上从脸书收集了大量信息，并能够利用这项技术来确定向谁投放特定的政治广告。有很多关于它对选举结果产生重大影响的说法。我不会说这就是导致哪个党派获胜的原因，但它确实是一个非常强大的工具，我们必须警惕它对我们本国选举的影响。”斯通补充道。

去年2月，政府在其官方牙买加之家网站上发布声明指出：“AI生成内容，特别是深度伪造的出现，已被视为对民主进程的重大威胁，尤其是在国家接近关键选举里程碑时。”

总理办公室负责技能和数字转型的部长、参议员德纳·莫里斯·迪克森博士评论道：“政府的核心承诺在于捍卫民主及其进程。政府认识到在我们的选举系统中保持信任和透明度的重要性。”

声明还提到，政府正积极采取措施制定全面的应对方案，以应对‘新兴挑战’，并指出了2023年7月成立的国家人工智能工作组，该小组由私营部门、学术界、民间社会和公共部门的专家和利益相关者组成。该工作组的任务是探索有效方法，缓解人工智能及深度伪造带来的风险，同时安全地挖掘其潜在价值。

(以上内容均由Ai生成)