遗憾：出售 AI 虚拟形象的演员陷入黑镜式的反乌托邦

快速阅读: 据《Ars Technica》最新报道，警示信号：公司拥有所创作形象的永久使用权。Synthesia虽承诺道德开发AI，但仍出现内容审核漏洞。演员叶茨的视频被滥用，Synthesia正改进审核机制。品牌青睐AI形象以降低成本，但需警惕有害内容风险。

一个重要的警示信号是，使用广泛、永久且不可撤销的语言，这赋予公司在任何媒介上完全拥有或无限制使用创作者声音、形象和肖像的权利。马尔基奥迪指出。

即使公开承诺以道德方式开发AI虚拟形象并防止其用于有害内容（例如Synthesia）的公司，也无法保证其内容审核能够覆盖所有情况。英国演员康纳·叶茨告诉法新社，他的视频被用来宣传2022年通过政变上台的布基纳法索总统易卜拉欣·特拉奥雷，这违反了Synthesia的规定。

“三年前，有几段视频未能通过我们的内容审核，部分原因是我们在执行方面存在漏洞，例如对事实准确但具有争议性、带有夸张声明或宣传性质的内容，”Synthesia企业事务主管亚历山德鲁·沃伊卡说道。

Synthesia提供了退出机制，并承诺保护演员权益。对于那些担心AI可能取代自己在市场上位置的演员来说，AI虚拟形象可能是增加收入并确保生计的一条途径。

自2023年以来，Synthesia已将其虚拟形象出售给《财富》500强公司中的大约一半，《彭博商业周刊》报道，而沃伊卡告诉Ars，“这一比例现在已经跃升至70%”。

对于品牌而言，使用AI虚拟形象的魅力在于降低营销活动的时间和成本，因此这种需求似乎不太可能减弱。沃伊卡还告诉Ars，“典型的Synthesia用户是一名《财富》500强公司的员工”，与那些缺乏监管的AI应用用户相比有很大的差异，后者“往往生成的营销内容迅速沦为AI垃圾、虚假信息或骗局”。

“本质上，我们将有害内容视为严重的安全威胁，而对于许多这些AI应用来说，这类内容却是一种商业模式，”沃伊卡说。

但对于那些已经后悔签署协议、无法删除有害视频的演员来说，这笔钱可能不再值得付出。叶茨与Synthesia签订了一份为期三年的合同，拿到了大约5000美元，他签约仅仅是因为“家里不富裕，急需这笔钱”。但他很可能无法预见自己的脸会被用作宣传工具，就连Synthesia也没料到这种情况。

(以上内容均由Ai生成)