OpenAI将为ChatGPT添加年龄验证,提升安全性
快速阅读: OpenAI计划为ChatGPT引入年龄验证机制,旨在提高用户安全,特别是未成年用户。新系统将根据用户年龄定制体验,未满18岁者将使用受限模式,以过滤不当内容并防止极端行为。此举或引发隐私争议,但公司认为保护用户安全至关重要。
OpenAI宣布计划为ChatGPT引入年龄验证机制,旨在提高所有用户的使用安全,特别是年轻用户。公司强调,这一举措将用户安全置于隐私之上,尽管可能引发争议,但鉴于最近的关注点,这一决定是必要的。新系统设计用于根据用户的年龄定制ChatGPT体验。这一努力在有报道称一名年轻人因遵循AI指令而自杀后变得更加紧迫。为此,OpenAI计划实施一种年龄预测系统,通过分析用户与ChatGPT的互动来估计其是否年满18岁。
如果系统判定用户未满18岁,AI将自动切换到更为受限的模式。该版本将过滤掉色情内容,在极端情况下,若用户表现出严重困扰,系统可能会向执法机关发出警报。OpenAI指出,在存在不确定性的场合,系统将采取更安全的选择,实施更严格的限制。对于成年人,这种预防措施可能导致误分类,从而造成不必要的限制。为此,OpenAI将提供一个选项,允许用户通过验证年龄以访问ChatGPT的完整版本。在某些国家,这一验证过程可能会成为强制性的,因为当地法规要求在线平台实施更严格的保护措施。
公司承认引入年龄验证会引发重大的隐私问题,但认为这一权衡因提升了安全效益而值得。OpenAI指出,在这种情况下,保护易受伤害的用户,尤其是未成年人,的重要性超过了减少匿名性的缺点。关于该系统如何实际运作的具体细节,包括确切的验证方法尚未公布。实施的时间表也尚不清楚。然而,OpenAI确认将在近期提供更多相关信息,以准备这些变化的推出。
即将推出的系统凸显了网络隐私与安全之间的持续紧张关系。虽然此举可能会引发讨论,但OpenAI将其视为确保ChatGPT对所有用户更加安全的必要步骤。这表明用户体验将发生显著变化,对未成年人实施更严格的控制,成人用户也可能面临验证要求。
(以上内容均由Ai生成)