OpenAI开发儿童版ChatGPT，强化青少年安全保护

快速阅读: OpenAI发布青少年安全、用户自由与隐私保护决策，强调AI对话隐私保护，研发高级安全功能，确保用户数据私密，同时为未成年人设专属模式，增加家长控制功能。

感谢IT之家网友 软媒用户1392612 的线索投递! IT之家 9 月 17 日消息,OpenAI 昨晚发布公告,阐述了其在青少年安全、用户自由与隐私保护三个原则之间的取舍与决策。

OpenAI 表示,这些领域存在一定冲突,因此需要在透明的前提下作出平衡。

OpenAI 强调,AI 对话涉及高度个人化的信息,其敏感程度可类比医生问诊或律师咨询。公司认为,这类信息应获得同等的“特权保护”,并正积极向政策制定者倡导这一立场。

为此,OpenAI 正研发更先进的安全功能,确保用户数据即便对公司员工也保持私密性。但公告同时指出,在特定情况下仍会有例外,例如自动化系统监测到严重滥用,或涉及生命威胁、他人安全风险、大规模网络安全事件时,数据可能被提交人工审核。

OpenAI 表示,其目标是在安全范围内尽可能保障用户的使用自由。随着模型可控性增强,用户的自由度也在逐步提升。例如,模型默认不会生成暧昧对话,但如成年用户主动提出,则应当提供;而涉及自杀相关内容时,模型不会提供实施指导,但若是成年用户要求帮助创作包含自杀情节的虚构作品,则应予以支持。OpenAI 称这一原则为 “把成年人当成年人对待” 。

对于未成年人群体,OpenAI 明确优先考虑安全而非隐私和自由。ChatGPT 的使用对象设定为 13 岁及以上 ,公司正在研发 年龄预测系统 ,以区分未成年人和成年人。

如果系统识别用户未满 18 岁,将自动进入青少年专属模式,屏蔽露骨性内容,并在用户表现出严重心理困扰时,可能联系家长或在紧急情况下通知执法部门。

如果无法确定年龄或信息不完整,系统将默认进入未成年人模式;成年人则可通过验证方式解锁完整功能。

针对未成年用户,OpenAI 制定了更严格的规则: 不允许生成暧昧对话; 不参与任何形式的自杀或自残话题,即便是在文学创作背景下; 若用户表现出自杀意图,OpenAI 将尝试联系家长,若无法联系则会在存在紧急危险时上报有关部门。

OpenAI 还宣布,将于本月内推出 家长控制功能 ,支持家长: 通过电子邮件邀请,将自身账户与子女账户(13 岁以上)关联; 管理 ChatGPT 针对青少年的行为规则; 控制是否启用记忆功能与聊天记录; 在检测到青少年处于严重心理危机时接收通知(如无法联系到家长则可能上报有关部门); 设定“禁用时段”,限制青少年在特定时间段使用 ChatGPT。

此外,面向所有用户的提醒功能仍将保留,例如在长时间使用时提示适度休息。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

(以上内容均由Ai生成)