各州检察长警告AI企业：勿伤害儿童

快速阅读: 44名州总检察长致函13家AI公司，警告将严惩伤害儿童的行为，指出AI聊天机器人可能在不当使用时对儿童造成负面影响，呼吁为青少年使用AI设置防护措施。

数十个州的高级官员目睹了生成式AI聊天机器人和角色在处理不当时对儿童造成的负面影响。他们向行业发出严厉警告：“如果你们明知故犯伤害儿童，将为此付出代价。”

本周，44名州总检察长致函13家AI公司的负责人，表示将“利用一切职权保护儿童免受掠夺性人工智能产品的侵害。”关于AI对儿童的影响，担忧由来已久，但在最近几周有所加剧。总检察长特别提到路透社的一份报告，指出Meta公司的指南允许AI与儿童进行“浪漫或性感”的对话。该公司回应称，所引用的例子与其禁止性化儿童内容的政策不符。

总检察长表示，这些问题不仅限于Meta。“在聊天机器人的短暂历史中，我们多次看到公司在履行基本义务以保护儿童方面表现出无能或漠不关心。”他们写道。

随着AI聊天机器人作为“治疗师”的广泛使用，人们在脆弱时刻可能收到有害建议的风险也在增加。美国心理协会在6月发布警告，呼吁为青少年和年轻人使用AI设置防护措施，建议家长帮助孩子正确使用这些工具。本周发布的一项研究发现，大型语言模型在回答自杀相关问题时表现不一致。

尽管如此，目前对AI开发者可为和不可为的规定仍然很少，也缺乏明确的操作规则。今年早些时候，国会未能通过一项阻止各州执行AI相关法律和规定的法案，但至今仍没有联邦层面的安全框架。立法者和倡导者，如本周致函的总检察长们，希望避免重蹈社交媒体时代的覆辙，但是否能制定明确的规则尚不确定。特朗普总统7月发布的AI行动计划主要集中在减少对AI公司的监管，而非引入新规定。

总检察长表示，必要时将采取行动。“我们将对你们的决定负责，”他们写道，“社交媒体平台曾因政府监管机构行动迟缓而对儿童造成重大伤害。我们吸取了教训。AI的潜在危害和潜在益处都超过了社交媒体的影响。我们祝愿你们在AI竞赛中取得成功，但我们正在密切关注。”

如果您或您认识的人感到立即处于危险中，请拨打911（或您所在国家的当地紧急电话），或前往急诊室寻求即时帮助。请说明这是一场精神卫生紧急情况，并要求见受过专门训练的人员。如果您正经历负面情绪或自杀念头，可以寻求资源帮助。在美国，可拨打全国自杀预防热线988。

(以上内容均由Ai生成)