深度伪造欺骗：印度女性的身份因色情 AI 内容被盗

快速阅读: 据《英国广播公司》最新报道，印度网红Babydoll Archi实为AI伪造账号，由Pratim Bora利用前女友照片创建，意图报复。警方已逮捕他，并扣押设备，或面临10年监禁。事件引发对AI伦理和法律的讨论。

据BBC新闻报道，7月11日，德里，印度Instagram网红Babydoll Archi 在短时间内将关注人数翻倍至140万，引起了广泛关注。然而，这一现象背后隐藏着一个令人不安的事实——Babydoll Archi 是一个虚假的账号，其背后并没有真实的人存在。

该账号的创建者是阿萨姆邦迪布鲁加尔市的一名机械工程师Pratim Bora，他也是自学成才的人工智能爱好者。Bora 利用前女友Sanchi的私人照片，结合ChatGPT和Dzine等工具，逐步创建了一个AI版本的Babydoll Archi。负责调查的高级警官Sizal Agarwal透露，Bora 创建这一形象的初衷是对Sanchi进行“纯粹的报复”。

Sanchi 的家人在发现异常后立即向警方报案，警方随后追踪到了Bora 的住址，并于7月12日晚将其逮捕。Agarwal 表示，警方已经扣押了Bora 的笔记本电脑、手机和硬盘等设备，并初步估计他通过该账号获利约100万卢比。

Sanchi 目前正在接受心理咨询，情况有所好转。Agarwal 强调，虽然这类事件难以完全避免，但如果警方能更早介入，或许可以减少其影响。

人工智能专家兼律师Meghna Bal认为，Sanchi 的遭遇“令人震惊，但几乎无法预防”。她建议受害者可以通过法律途径申请“被遗忘权”，要求删除有关的新闻报道，但彻底清除网络上的所有痕迹几乎是不可能的。Bal 还指出，此类事件的发生频率低于预期，可能是因为受害者出于羞耻感或其他原因未进行举报。

针对Bora 的投诉，警方援引了涉及性骚扰、散发淫秽材料、诽谤、伪造以损害声誉、冒充诈骗和网络犯罪的法律条款。如果被判有罪，Bora 最高可能面临10年的监禁。

这一案件在社交媒体上引发了广泛讨论，许多人呼吁制定更加严格的法律来应对类似事件。Bal 认为现有法律已足够应对，但也强调需要谨慎立法，以免压制言论自由。

(以上内容均由Ai生成)