没有人知道如何处理“学生对学生”的 AI CSAM
快速阅读: 据《404 媒体》称，斯坦福大学研究显示，学生利用AI生成色情内容的问题日益严重，但学校和法规准备不足。报告建议学校提供支持服务、制定沟通方案，并重视匿名举报热线。作者Emanuel Maiberg关注鲜为人知的技术社区和小争端，可通过emanuel@404media.co联系。
斯坦福网络政策中心的研究人员发布了一份新报告，揭示学校、家长、警方及现有法规尚未充分准备应对学生和未成年人利用生成式人工智能工具制作同龄人性侵害材料的问题。该报告基于公开记录和对非政府组织、互联网平台工作人员、执法部门、政府雇员、立法者、受害者、家长以及向学校提供在线培训团体的访谈得出结论。
尽管强制性行为带来的伤害显而易见，但这种行为已在主流在线平台和部分在线社区中被普遍接受。报告指出，“受访者告诉我们，在那些创建和分享人工智能儿童性虐待材料的人群中，有一种正常化或正当化的观念。”这种观点受到清晰网络论坛开放讨论、通过分享技巧建立社区感、可获取的色情生成应用程序以及社区成员所在国家法律允许AI生成儿童性虐待材料存在等因素的推动。
报告提到，虽然孩子们可能意识到通过AI生成非自愿内容是错误的，但他们可能会认为“这是合法的”，并相信如果这确实是非法的，就不会有相关的应用程序。报告引用了多个404媒体关于此问题的故事，并指出这种正常化在一定程度上是由于许多色情生成应用程序能够在谷歌和苹果应用商店中获得，并且它们能够通过AI生成非自愿裸露内容的功能在谷歌和社交媒体平台如Instagram和TikTok上公开宣传给学生。一位非政府组织工作人员告诉报告作者，“有数百个色情生成应用程序缺乏基本的安全功能来防止儿童性虐待材料的创建”，并且即使作为该领域的专家，他也经常遇到从未听说过的AI工具，但在某些社交媒体平台上，“大家都在谈论它们”。
尽管美国38个州现在有关于AI生成儿童性虐待材料的法律，而且刚刚签署的联邦《删除它法案》将进一步惩罚AI生成儿童性虐待材料，但各州“未能预料到学生之间的案件会成为一个常见的事实模式”。因此，那一波立法没有考虑到未成年犯罪者。直到现在，立法者才开始作出回应，例如将学生之间使用色情生成应用程序的行为定义为一种网络欺凌形式。一名执法人员告诉研究人员这些应用程序的易得性。“你可以在一分钟内下载一个应用程序，在30秒内拍照，那个孩子将为此付出一生的代价。”
报告中采访的一名受害学生表示，当她第一次得知有人实际上用AI生成了她的裸照时，她很难相信。她知道其他学生用AI写论文，但不知道人们可以用AI创建裸照。“人们会因为任何原因开始谣言，”她说。“我花了几天时间才相信这真的发生了。”另一名受害者及其母亲在接受采访时描述了首次看到这些图像时的震惊。“还记得Photoshop吗？”母亲问道，“我以为会像那样。但不是。看起来就像她一样。你可以看到有人可能会相信那是她真的裸照。”一名受害者的原始照片是从非社交媒体网站上拍摄的，他说有人拿走了照片并“让它变得可怕……他把它变成了一个曲线乳房怪物，感觉完全失控。”
在一封受害者发给学校工作人员的电子邮件中，一名受害者写道：“我在学校无法集中注意力或感到安全。我感到非常脆弱和深陷困扰。调查、媒体报道、与管理人员的会议、针对施害者的禁令以及关于此事的流言蜚语分散了我的注意力，使我无法专注于学业和课堂作业。这是高中生活的糟糕开端。”报告中提到的一名受害者的母亲担心这些图像将来可能会再次出现，可能会影响她女儿的大学申请、工作机会或人际关系。“她还表达了对教师的信任丧失，担心由于事件曝光后的情况发展，他们可能不愿意为她的女儿写一封积极的大学推荐信。”
报告中提到的一位报告作者被告知，虽然许多学校有针对“活跃枪手情况”的危机管理计划，但他们从未听说过有学校制定过针对色情生成事件或甚至学生真实裸照传播的危机管理计划。报告向学校提出了几项建议，比如为受害者提供第三方咨询服务和学术调整，起草语言以在事件发生时与学校社区沟通，确保学生不会因举报事件而受到阻碍或惩罚，并联系学校的法律顾问评估学校的法律义务，包括其作为“强制报告者”的责任。作者们还强调了匿名举报热线的重要性，允许学生安全地报告事件。报告引用了两个最初通过这种方式发现的事件，一个是宾夕法尼亚州的学生使用该州的Safe2Say Something举报热线报告学生正在AI生成同伴裸照，另一个是华盛顿州的学校通过提交到学校骚扰、恐吓和欺凌在线举报热线首次了解到一起色情生成事件。
一位向学校提供培训的人员强调了此类举报工具的重要性，他说：“匿名举报工具是我们学校系统中最重要的一部分，”因为许多学生缺乏可以信任的成年人。值得注意的是，报告并未就学校是否应教育学生关于色情生成应用程序的问题表明立场，因为“存在合理担忧，认为这种指导可能会无意中让学生了解这些应用程序的存在。”
关于作者Emanuel Maiberg 对鲜为人知的社区和塑造技术的过程、捣蛋鬼以及小争端感兴趣。请通过emanuel@404media.co给他发送电子邮件。
(以上内容均由Ai生成)
