​英国将测试 AI 工具以遏制儿童性虐待图像的生成

快速阅读: 英国新法授权科技公司和儿童保护机构测试AI工具，防止生成儿童性虐待图像。2025年相关报告从199件增至426件，女孩受害占94%，新生儿案例显著增加。

在新出台的法律框架下,英国的科技公司和儿童保护机构将获得测试人工智能(AI)工具是否能够生成儿童性虐待图像的权力。根据安全监管机构的报告,2025年,AI 生成的儿童性虐待材料(CSAM)报告数量较2024年翻了一番,从199件增至426件。此次法律变更的目的是为了让 AI 开发者在生产这些图像之前就能够检查和预防相关风险。

图源备注:图片由AI生成,图片授权服务商Midjourney 英国政府的 AI 和在线安全部长卡尼什卡・纳拉扬表示,这项举措是 “为了在问题发生之前就遏制虐待”。在新法律的授权下,特定的 AI 公司和儿童安全组织将被允许检查聊天机器人和图像生成器等 AI 模型,确保这些技术具有必要的安全防护措施,防止它们生成儿童性虐待图像。

此次法律变化作为《犯罪与警务法案》的修正案推出,其中还包括禁止拥有、创建或传播旨在生成儿童性虐待材料的 AI 模型。纳拉扬部长在访问儿童热线时,倾听了一个关于 AI 相关虐待的模拟电话,电话中描述了一名青少年因 AI 伪造的性别黑 mail 而寻求帮助的情景。

网络监察机构 “互联网观察基金会” 指出,AI 生成的虐待材料报告在今年已经增长了一倍,特别是类别 A 的最严重的虐待材料,从2024年的2621张图像或视频上升到3086张。同时,针对女孩的图像占比高达94%,而对新生儿至两岁儿童的描绘从2024年的五件增加到2025年的92件。

儿童热线也公布了有关 AI 的咨询案例,显示出 AI 在青少年生活中的影响,例如利用 AI 评估体重和外貌、聊天机器人阻止儿童向安全成年人谈论虐待等。此外,今年4月至9月期间,儿童热线共处理了367次与 AI 相关的咨询,是去年同期的四倍,其中一半的咨询与心理健康和福祉有关。

划重点: 🛡️ 新法律允许检测 AI 工具生成儿童性虐待图像的能力,以防止相关犯罪。

📈2025年,AI 生成的儿童性虐待材料报告数量增长至426件,较2024年翻了一番。

👧 女孩成为受害者的主要群体,占比高达94%,而针对新生儿的案例也显著增加。

(以上内容均由Ai生成)