OpenAI推出青少年版ChatGPT，加强安全保护措施

快速阅读: OpenAI宣布开发专为青少年设计的ChatGPT体验，加强安全措施，包括年龄预测技术和内容过滤，以应对心理健康风险，此举措响应了监管压力和诉讼。

今日，OpenAI宣布正在开发一种专为青少年设计的“不同ChatGPT体验”，此举凸显了人们日益关注人工智能聊天机器人对年轻人心理健康的影响。

新的青少年模式是公司在因一起家庭指控ChatGPT缺乏保护措施导致其十几岁的儿子自杀身亡而提起诉讼后，推出的一系列安全措施的一部分。这些变化包括年龄预测技术，以防止18岁以下的孩子使用标准版ChatGPT。公告中提到，如果系统无法准确估计用户的年龄，ChatGPT将自动切换到18岁以下的体验模式。

“我们优先考虑青少年的安全，而非隐私和自由；这是一项新的强大技术，我们认为未成年人需要更多的保护，”OpenAI首席执行官萨姆·阿尔特曼在一篇博客文章中写道。

不要错过我们的无偏见科技内容和实验室评测。将CNET设为首选Google来源。

青少年模式中的新功能

OpenAI表示，青少年版本将配备更严格的内置限制，例如：

– 内容过滤：禁止调情对话或任何形式的自伤讨论，即使是在虚构或创意写作的背景下。

– 危机应对：如果青少年表达自杀念头，OpenAI可能会尝试通知家长，在紧急情况下甚至联系当局。

– 家长控制：家长可以关联账户，设置ChatGPT回应规则，并设定“禁用时段”，在此期间应用程序不可用。

（披露：Ziff Davis，CNET的母公司，于4月对ChatGPT制造商OpenAI提起诉讼，指控其在训练和运营AI系统时侵犯了Ziff Davis的版权。）

更大的背景

OpenAI的这一宣布正值华盛顿特区参议院即将举行听证会，探讨人工智能对年轻人的潜在威胁之际。立法者一直在向科技公司施压，要求提高青少年安全标准，因为有诉讼指责AI平台加剧了年轻人的心理健康问题或提供有害的健康建议。

OpenAI的做法反映了谷歌等公司在批评和监管压力下采取的早期举措，比如推出了YouTube Kids。阿尔特曼的博客文章将这一举动描述为在安全、隐私和自由之间寻求平衡的一部分。他认为，成年人应该被视为“成年人”，享有较少的限制，而青少年则需要额外的保护——即使这意味着牺牲一些隐私，比如要求提供身份证明。

阅读更多：

OpenAI希望你获得ChatGPT证书并找到下一份工作

该公司表示，计划在今年年底前推出这一面向青少年的体验。然而，历史表明，技术熟练的青少年往往能找到绕过限制的方法。这些防护措施是否足以保护能够轻松规避限制的技术熟练青少年，仍然是一个疑问。

如果您觉得您或您认识的人处于立即危险之中，请拨打911（或您所在国家/地区的当地紧急电话）或前往急诊室寻求即时帮助。说明这是一个精神卫生紧急情况，并请求接受过此类情况培训的人员。如果您正经历负面情绪或自杀念头，有资源可以帮助您。在美国，可拨打国家自杀预防热线988。

(以上内容均由Ai生成)