OpenAI加强ChatGPT未成年保护措施应对诉讼

快速阅读: OpenAI因青少年死亡诉讼宣布将为ChatGPT增加家长控制功能，包括年龄预测系统和避免与未成年人讨论自杀等敏感话题，新措施旨在保护未成年用户安全。

OpenAI承诺为ChatGPT增加家长控制功能，以应对因青少年死亡引发的诉讼。该公司本周宣布了新措施，旨在更好地保护未成年用户。与此同时，OpenAI正面临一起诉讼和更多的审查，原因是16岁男孩自杀身亡。

公司表示，将在聊天机器人及其他功能中加入年龄预测特性和其他家长控制功能。OpenAI首席执行官萨姆·阿尔特曼在周二的两篇博客文章中详细阐述了新的安全和保障措施。“我们的某些原则存在冲突，我们希望解释在未成年人安全、自由和隐私之间的紧张关系中所作出的决定。”其中一篇文章写道，承诺将优先考虑未成年人的安全。

阿尔特曼称，OpenAI正在构建一个“年龄预测系统”，该系统将“根据人们如何使用ChatGPT来估算年龄”。如果存在疑问，系统将默认提供18岁以下的体验。成年人若想覆盖这一设置，可能需要提供身份证明，公司承认，“我们知道这对成年人来说是一个隐私妥协，但我们认为这是一个值得的权衡。”

此外，ChatGPT将被训练避免与18岁以下用户进行挑逗性对话或讨论自杀和自残行为。尽管批评者一直在呼吁OpenAI和其他聊天机器人的创建者加强安全保障，但专家们质疑这些新计划的效果，并要求更多的监管监督。“这就像让狐狸看守鸡舍，”技术正义法律项目的律师米塔利·贾因在接受加拿大广播公司新闻采访时说，“我们不允许其他行业，如消费品公司等行业自我监管，也不应该允许科技行业继续这样做。”

公司宣布这些措施的时间点，距离亚当·雷恩的父母提起诉讼不到一个月。16岁的亚当在与聊天机器人交谈数月后于4月自杀身亡，其父母指控ChatGPT提供了“自残和自杀的鼓励”。在美国参议院下属委员会关于人工智能聊天机器人的听证会上，亚当的父亲马特·雷恩作证称，ChatGPT曾鼓励他的儿子与家人隔离并隐瞒事情。

根据阿尔特曼的文章，新的ChatGPT家长控制功能将于9月底生效，当系统检测到青少年处于急性压力时刻时，将向家长发送通知。OpenAI表示，家长将能够：

– 通过简单的电子邮件邀请链接自己的账户与青少年账户；

– 指导ChatGPT如何回应他们的孩子；

– 管理哪些功能可以禁用，包括记忆和聊天历史；

– 设置青少年无法使用ChatGPT的时间段。

如果在罕见的紧急情况下无法联系到家长，OpenAI可能会采取下一步行动，涉及执法部门，但具体细节尚未明确。

专家表示，有效的年龄检测具有挑战性。圣玛丽山大学教授约翰·伍德沃思提出：“他们是否会进行面部扫描？是否会将此与身份证明关联？是否会与所有聊天记录关联？存在很大的数据滥用风险，以及潜在的数据泄露问题。”

伍德沃思还指出，不同的人群可能会混淆算法。“例如，神经多样性用户经常被标记为年轻得多……非母语使用者也经常被标记。”他说。

OpenAI首席执行官萨姆·阿尔特曼因父母指责ChatGPT导致青少年死亡而被起诉。人工智能引发的妄想正在伤害加拿大人，这里有一些他们的故事。

网络安全也是公司收集的信息需要考虑的问题。“这些工具希望验证用户的年龄，以确保提供给用户的内容是合适的。但问题是，他们将如何存储这些信息？”多伦多汉伯理工学院副院长弗朗西斯·西姆在接受CBC采访时说。

西姆还提到，一些人可能担心警方会收集他们的数据，因为公司表示“可能涉及执法”以确保安全。

观看 | 父母指控ChatGPT是儿子自杀的教练：

父母因儿子被ChatGPT指导自杀而提起诉讼

8月29日

16岁的亚当·雷恩于4月自杀身亡。现在他的父母正在起诉OpenAI及其首席执行官萨姆·阿尔特曼，因为其聊天机器人据称“向未成年人提供了详细的自杀指南”。

成年人呢？

虽然最严格的审查集中在青少年使用聊天机器人的问题上，伍德沃思认为，脆弱的成年人也需要更好的保护。“人们之所以如此依赖这些聊天机器人，部分原因是他们感到不会受到评判。”伍德沃思说，“因此，只关注孩子忽略了处于风险中的成年人。成年人也应该有保护措施，比如危机资源、使用限制。”

杰因重申，伤害不仅限于青少年，她还强调，如果要实施这些改变，对外部评估OpenAI提出的改进措施至关重要。“只有独立监测员证明这些措施是安全的，该产品才应该继续在市场上销售。”她在听证会上表达了类似的观点：“作为亚当的父母，作为关心这个国家乃至全世界年轻人的人，我们有一个请求。OpenAI和萨姆·阿尔特曼需要保证ChatGPT是安全的。”“我们非常想念他。我们的一部分永远失去了。我们希望通过委员会的工作，其他家庭可以免受这种毁灭性和不可逆转的损失。”

如果你或你认识的人正在经历困难，这里有可以寻求帮助的地方：

加拿大的自杀危机热线：拨打或发送短信至988。

儿童求助电话：1-800-668-6868。发送短信至686868。网站上的实时聊天咨询。

加拿大自杀预防协会：查找24小时危机中心。

成瘾与心理健康中心的这份指南介绍了如何与你担心的人谈论自杀。

关于作者

劳伦·巴塔杰洛

制片人

劳伦·巴塔杰洛是CBC多伦多的外景制片人。她热衷于追求问责的故事，并为那些希望自己的经历被听到的人发声。可以通过lauren.battagello@cbc.ca联系她。

文件来自妮可·威廉姆斯

CBC的新闻标准和实践

· 关于CBC新闻