大学对用户进行秘密 AI 测试：“我们的实验打破了规则”

快速阅读: 据《eWeek 系列》称，苏黎世大学研究团队未经Reddit许可，用AI生成评论测试其改变用户观点的能力。实验曝光后，Reddit删除相关账户并向校方提出法律要求，但校方未回应。

eWEEK的内容和产品推荐在编辑上是独立的。我们可能会在您点击我们的合作伙伴链接时赚钱。了解更多。

苏黎世大学的一个研究团队在过去几个月里在Reddit用户身上进行了一项AI实验，针对“r/changemyview”（CMV）子论坛使用AI生成的评论，看看是否能改变真实Reddit用户的观点。他们的研究是在Reddit、CMV版主或任何子论坛用户的许可或知情的情况下进行的。

最初的实验旨在测试当前一代大型语言模型（LLMs）的有效性及其改变人们在各种伦理场景中观点的能力。研究人员通过使用AI回应真实Reddit用户的评论来实现这一目标。AI试图通过检测参与对话的真实用户的具体信息并假设多种不同身份来个性化这些回复。这些身份包括一名男性性侵幸存者、一名不同意黑人生命运动的黑人男性以及一名不相信犯罪分子可以改造的人。

根据《The Register》的报道，苏黎世大学的研究人员最终通过电子邮件向子论坛的版主透露了他们使用生成式AI工具的情况。“我们认识到我们的实验违反了禁止AI生成评论的社区规则，并为此道歉，”邮件部分写道。“然而，我们认为鉴于这个话题对社会的重要性，进行这样一项研究至关重要，即使这意味着违背规则。”

探索后果

CMV子论坛的版主最终通过2025年4月下旬的一份公告向公众透露了这项实验，部分公告内容为：“CMV版主团队需要告知CMV社区关于苏黎世大学研究人员未经许可在CMV用户身上进行的一项实验。该实验部署了AI生成的评论，以研究如何使用AI来改变观点。”

Reddit已经删除了与研究团队相关的用户账户，但这只是他们担忧的开始。Reddit的法律团队已经正式联系了苏黎世大学，提出了法律要求，但这些要求尚未公开。苏黎世大学尚未回应Reddit的法律询问。

人工智能实施的伦理（和法律）问题

(以上内容均由Ai生成)