加州新法要求AI聊天机器人明示非人类身份

快速阅读: 加州州长签署新AI法律，要求聊天机器人明示非人类身份，减少用户混淆，主要针对“伴侣”AI，不包括客服机器人。

被称为“全国首例”的AI安全措施，加州州长加文·纽森签署了一项新的人工智能法律，要求AI聊天机器人必须明确告知用户它们是“由人工智能生成而非人类”。这项新法案以参议院第243号法案的形式签署成为法律，有望减少人们在与所谓的“伴侣”AI聊天机器人互动时对其真实性的困惑。

随着驱动这些聊天机器人的模型不断进步，AI聊天机器人的能力正在迅速提升，使得一些用户越来越难以区分AI与真人。根据这项新法案，如果一个合理的人在与伴侣聊天机器人互动时会被误导认为自己是在与真人交流，那么聊天机器人的开发者必须提供明确的通知，告知用户该聊天机器人不是真人。

需要注意的是，法案规定这一规定不适用于客户服务聊天机器人或语音助手，因为这些AI不会与用户保持持续且明确的关系。显然，像ChatGPT、Gemini和Claude这样的AI聊天机器人是主要目标。

(以上内容均由Ai生成)