深伪技术引发AI监管行动，加拿大总理被伪造推广投资平台

快速阅读: CTV新闻报道，YouTube上出现使用深度伪造技术冒充加拿大总理卡尼推销投资平台的广告，涉及虚假高收益承诺。谷歌已暂停相关广告账户，加拿大政府正加强对此类技术的监管。

人工智能的发展速度正在模糊现实与虚构之间的界限。过去几个月里，CTV新闻记录了YouTube上使用深度伪造技术推销产品的广告。加拿大总理马克·卡尼被用于多个广告中，推销一个投资平台。视频中可以看到并听到他说：“人工智能是未来，我们已经建立了一个最先进的程序来帮助加拿大人参与其中。”他鼓励观众通过链接注册。然而，这些话他从未说过。这段深度伪造视频是从2025年7月1日的加拿大国庆日讲话中生成的。

CTV新闻跟踪了其中一个深度伪造卡尼广告中的链接，发现它指向了一篇看似是CBC新闻的文章，声称该投资平台在加密货币市场保证高额回报。文章还提到，该平台承诺每月从单笔投资中赚取超过35,000美元，并称加拿大皇家银行参与创建了一个自动化的投资平台，确保高收益。CBC新闻和加拿大皇家银行均向CTV新闻证实，这篇文章是假的。

CTV新闻联系了YouTube关于这些广告，其母公司谷歌告知CTV新闻，已因违反广告政策而暂停了广告主账户。“我们对平台上的欺诈行为零容忍。”谷歌的一位发言人表示。

CTV新闻进一步联系了该投资平台。当被问及使用深度伪造卡尼广告的问题时，平台坚持认为这是总理在谈论产品，并声称有加拿大政府的支持。加拿大创新、科学和经济发展部在电子邮件中回应称：“加拿大政府不支持此广告。”并解释说，渥太华正在努力保护加拿大人免受诈骗、深度伪造和恶意AI工具的侵害，这些工具被用来冒充他人从事不法活动。政府还提到，去年11月，加拿大启动了加拿大人工智能安全研究所，旨在推进对高级AI系统风险的科学理解，并开发减少这些风险的措施。“该研究所正与国际同行合作，研究合成内容的风险。”政府写道。

法律挑战

加拿大律师乔丹·多尼奇一直在密切关注这项技术的发展及其在犯罪中的增加使用。他表示，深度伪造技术正被用于各种不良目的，如色情、儿童剥削以及实施欺诈和诈骗。多尼奇解释说，关于深度伪造本身——即描绘不存在的人或事物，或其特征不真实的图像——的法律仍在发展中。“我认为我们不会达到深度伪造本身成为犯罪的地步，”多尼奇说，“但如何划清界限？”他补充说，法律需要跟上技术的步伐，但目前已有针对儿童的保护措施。

对于使用政治人物的深度伪造——或任何可能利用其声誉或权威欺骗公众信任的人——多尼奇认为，这可能是犯罪。“我们不能让人为所欲为，制造深度伪造来诱骗人们做出决定，导致他们蒙受损失。”多尼奇说。这种行为可能会被指控为欺诈、盗窃和冒充。

不确定的未来

负责任的人工智能研究所正在努力提高公众、政策制定者和监管机构的认识和洞察力，鼓励他们使用能够改善社会和经济福祉的技术，同时避免危险。创始人莫诺杰·萨克森在接受CTV新闻采访时说，技术进步如此迅速，以至于深度伪造不仅能复制人的声音和形象，还能传达情感。“据预测，到明年年底，由AI生成的社会媒体内容——虚假广告、虚假产品、虚假账号、虚假帖子——将比人类生成的多100倍。”萨克森说。

萨克森警告说，政府采取了一种AI军备竞赛的心态，急于构建更大、更易访问和更强大的AI模型，而没有充分认识到滥用的风险。他解释说，现在推出的技术是几十年后才被认为可能实现的。“我曾经是一个AI实用主义者，一个AI乌托邦主义者。不再了，”萨克森说，“我认为，这种发展速度和程度，99.9%的人并不了解。我们真的步入了未知领域。”

(以上内容均由Ai生成)