加州新法案：聊天机器人必须明确告知用户其为 AI

快速阅读: 加州通过“SB243”法案，要求聊天机器人开发者明确告知用户其为AI，并向自杀预防办公室提交年度报告，强调保护儿童安全。

加州在人工智能行业日益发展的背景下,于10月13日通过了一项新的法律,旨在保护用户在与聊天机器人互动时的权益。这项名为 “SB243” 的法案是由加州州长加文・纽森签署的,成为全国首个针对聊天机器人的安全规定。该法案由州参议员安东尼・帕迪拉提出,强调了对用户的透明度和安全性的必要性。

图源备注:图片由AI生成,图片授权服务商Midjourney 根据新法,聊天机器人开发者必须采取一系列的安全措施,其中最重要的一条是,如果用户在与聊天机器人互动时可能会误以为是在与人类交流,那么开发者必须向用户发出 “清晰且显著的通知”,告知其实际是人工智能而非人类。此外,从明年开始,一些聊天机器人运营商还需要向加州自杀预防办公室提交年度报告,说明他们所采取的措施以识别、删除和回应用户可能出现的自杀念头。而该办公室也将把这些数据公开在其网站上,以便公众查询。

加州州长纽森在签署法案时表示,科技的快速发展可以激励、教育和连接人们,但缺乏有效的监管,科技也可能会利用、误导和危害儿童。为了保障孩子的安全,州政府需要在推进人工智能和科技的发展时,确保实施相应的责任和保护措施。他强调,“我们的孩子的安全不是可以交易的。” 这一消息发布之际,加州还同时通过了另一项具有里程碑意义的法案,即 “SB53”,该法案专注于人工智能的透明度,尽管这一法案在行业内引起了广泛的争议和讨论。

这项新法律的实施,标志着加州在人工智能领域的监管迈出了重要的一步,旨在确保技术的发展与用户的安全并行,尤其是在涉及到儿童的在线安全问题上。

划重点: 📜 新法要求聊天机器人开发者必须通知用户其为 AI,而非人类。

🔍 聊天机器人运营商需向自杀预防办公室提交年度报告,关注用户心理健康。

👶 加州政府强调在推动科技发展的同时,必须保护儿童的安全。

(以上内容均由Ai生成)