加州通过法律保护儿童免受AI聊天机器人风险

快速阅读: 加州州长纽森签署新法，监管AI聊天机器人，确保透明度和用户安全，特别是未成年人。此举旨在平衡创新与保护，可能成为全球AI监管的先例。

加州州长加文·纽森签署了一项具有里程碑意义的法律，旨在监管由人工智能驱动的聊天机器人。新法规定，平台必须明确告知用户，他们正在与聊天机器人而非真人互动。对于未成年人，此类通知每三小时必须显示一次。此外，公司还被要求实施防止传播自残内容的协议，并将表现出自杀倾向的用户转介给危机服务机构。

据阿塞新闻报道，这项法案是纽森周一签署的多项针对科技公司的法律之一。其他新法律涉及年龄验证、社交平台强制警告标签以及未经AI生成同意的性内容未经授权的分发等问题。

该立法的通过彰显了纽森在保护儿童安全与保持加州在全球人工智能创新领域领先地位之间寻求平衡的努力。尽管如此，Meta和其他来自科技及通信行业的代表仍反对该法律，认为它可能抑制创新，并使加州的企业在全球竞争中处于不利地位。

加州是全球前50大AI公司中32家的所在地，这巩固了其作为人工智能开发主要中心的地位。过去三年里，能够回答问题、生成文本、编程、创建图像甚至作曲的人工智能技术的受欢迎程度急剧上升。这一快速发展的趋势正在改变人们获取信息、工作和学习的方式。

立法者担心，虽然聊天机器人有用，但可能会对越来越多依赖AI进行交流和咨询的年轻人的心理健康产生负面影响。通过实施透明度和安全措施，加州旨在减轻这些风险，同时促进负责任的AI使用。

这项法律可能为其他国家和地区在应对AI技术带来的伦理和社会挑战时树立先例，标志着全球AI监管迈出的重要一步。

(以上内容均由Ai生成)