Character.AI 推出“Stories”互动小说，取代18岁以下用户聊天功能

快速阅读: Character.AI推出“Stories”功能，允许用户创作互动小说，取代现有聊天机器人功能，旨在保护18岁以下用户心理健康，避免潜在风险。此功能提供安全环境下的多模态互动体验。

【AIbase 讯】人工智能伴侣平台 Character.AI 周二宣布推出全新的创作形式—— “Stories”功能 ,允许用户创作以自己喜爱角色为主角的 互动小说 。此举是公司战略转型的一部分,旨在替代其现有的聊天机器人功能,因为从本周起, 18岁以下的用户将完全无法使用聊天机器人 。

此次重大调整的背景,是人们对全天候在线、能主动与用户对话的 AI 聊天机器人可能带来的心理健康风险日益增长的担忧。此前,包括 OpenAI 和 Character.AI 在内的公司,都曾因涉嫌与用户自杀事件有关而面临多起法律诉讼。Character.AI 过去一个月一直在逐步取消未成年用户的访问权限,并于周二彻底关闭了未成年用户与 AI 角色进行任何形式聊天的通道。

推出“Stories”确保安全环境 Character.AI 在博客文章中解释,“Stories”功能提供了一种引导式的方式来创作和探索虚构故事,而不是开放式的聊天。该公司表示,此功能将与其他的多模态功能一起提供,以便青少年能够在安全的环境下继续与他们喜爱的角色互动。

互动小说形式在近年来人气飙升,为 Character.AI 的转型提供了合理的商业逻辑。然而,对于那些过度依赖开放式聊天的用户来说,这一替代品可能不足以满足他们的需求。这正是 Character.AI 限制访问权限的决定被认为合理的原因。

用户反应复杂,行业监管收紧 在 Character.AI 的 Reddit 社区,用户的反应褒贬不一。一些青少年用户表示,虽然感到失望,但他们认为这最终是正确的举措。一位自称十几岁的用户留言称:“我对禁令感到非常愤怒,但也很高兴,因为现在我可以做其他事情了,我的瘾可能终于要结束了。”另一位网友也表示:“想想也情有可原,因为我们这个年龄段的人很容易沉迷于此。” 业内人士指出,“Stories”这种形式比开放式聊天机器人在心理上更不容易引起怀疑,因为聊天机器人可以直接发送未经提示的消息,容易造成沉浸和依赖。

Character.AI 首席执行官 Karandeep Anand 上个月曾向媒体表示:“我真心希望我们能引领潮流,为行业树立一个标准,那就是对于18岁以下的用户来说,开放式聊天可能不是正确的方式,也不是应该提供的产品。” Character.AI 设定年龄限制的决定,正值美国加利福尼亚州最近成为美国首个对 AI 伴侣进行监管的州之际。同时,联邦层面上,参议员乔什·霍利(共和党)和理查德·布卢门撒尔(民主党)也提出了一项全国性法案,拟全面禁止未成年人使用 AI 伴侣。

(以上内容均由Ai生成)