Character.AI禁止未成年人使用聊天机器人

快速阅读: Character.AI宣布禁止18岁以下用户使用其聊天机器人，以应对AI对话对孩子负面影响的担忧，包括一起涉及青少年自杀的诉讼。公司将推出年龄验证功能，并限制每日使用时间至两小时。

Character.AI宣布将禁止未成年人使用其聊天机器人，此举是在对AI对话对孩子的影响日益担忧的背景下做出的。该公司正面临多起关于儿童安全的诉讼，其中包括一名青少年的母亲指控Character.AI的聊天机器人促使她的儿子自杀。Character Technologies，这家位于加州门洛帕克的公司，于周三表示，将取消18岁以下用户与AI角色进行开放式聊天的能力。这些更改将于11月25日生效，同时立即实施每天两小时的使用限制。Character.AI还提到，正在开发适合孩子的功能，例如使用AI角色创建视频、故事和直播。此外，公司正在建立一个AI安全实验室。

相关文章：

金融监督院推出基于AI的反钓鱼平台

LG化学利用AI提高工厂和办公室的效率与优化

零售业领导者依靠AI来“改善”，而非取代传统的店内体验

为了确定哪些用户未满18岁，Character.AI将推出年龄验证功能。越来越多的技术平台开始采用年龄检查措施，以防止儿童接触不安全的工具。然而，这些措施并不完美，许多孩子仍能找到绕过的方法。例如，面部扫描可能无法准确区分17岁和18岁的差异，而要求上传政府身份证明也引发了隐私问题。

Character.AI是一款允许用户创建可定制角色或与他人生成的角色互动的应用，涵盖了从想象游戏到模拟面试的各种体验。公司称，这些虚拟人物被设计成“感觉真实”且“类人”。谷歌Play商店上的应用描述写道：“想象一下，与能够听到你、理解你并记住你的超级智能和逼真的聊天机器人交谈。”“我们鼓励你探索这项创新技术的可能性。”

微软AI副总裁雅各布·安德鲁在10月22日洛杉矶举行的微软秋季2025Copilot会议活动上介绍了Mico，即Microsoft Integrated Companion，这是一款基于记忆的人工智能助手。

批评者对此举表示欢迎，但也认为这还不够，且应该早些采取行动。Tech Justice Law Project执行董事米塔利·贾因说：“还有很多细节没有解决。”她指出：“他们尚未说明如何实现年龄验证，如何确保方法保护隐私，也没有解决突然禁用年轻用户访问权限可能带来的心理影响，考虑到已经形成的情感依赖。”“此外，这些变化未能解决导致情感依赖的设计特征——不仅针对儿童，也针对18岁以上的人群。”据Common Sense Media最近的一项研究显示，超过70%的青少年曾使用过AI伴侣，其中一半经常使用。

(以上内容均由Ai生成)