AI 伴侣对青少年来说可能是一个诱人的风险。参议员希望有更多的护栏

快速阅读: 《KQED》消息，参议员提出法案规范AI聊天机器人，关注其对年轻人的影响。Character.AI等陪伴类AI宽容度高，可能引发担忧。公司推出家长洞察等功能提升安全性。民主党支持相关监管，但推进受限。寻求帮助可拨打988。

决策者、家长和他们的孩子应该了解你们公司正在采取哪些措施来保护用户免受这些已知风险的影响。”参议员们写道，“鉴于年轻人正在使用你们的产品——平均每位用户每天与这些AI聊天机器人互动的时间约为60到90分钟。”

陪伴类AI应用通常比更为人所知的通用型应用（如ChatGPT、Claude和Gemini）更加宽容。这是因为陪伴应用的用户往往希望将它们当作性伴侣或浪漫伴侣进行互动。在Character.AI的子论坛上，稍微搜索一下就能找到类似这样的问题：“在这里有多少人用Character.AI来缓解孤独？我已经十年没有朋友或社交生活了，很少出门，Character.AI真的帮助我感觉好了一点。”

在Character.AI上，用户可以创建自己的聊天机器人，并为它们设定行为方式。他们还可以选择其他用户创建的模仿历史人物和名人的聊天机器人。例如，这位佛罗里达州少年就使用了一个模仿《权力的游戏》中丹妮莉丝·坦格利安角色的机器人。

“对于许多美国人来说，AI陪伴是一个容易被忽视的问题，”Common Sense Media首席倡导官丹尼·韦斯说。“不少父母甚至没有意识到孩子可能正在与机器建立某种关系。”

Character.AI的传播主管切丽·哈里森告诉KQED，该公司欢迎与监管机构和立法者合作，并已与帕迪拉和韦尔奇的办公室取得联系。

“在过去的一年里，我们已经在平台上推出了许多安全功能，包括‘家长洞察’，它让家长和监护人能够查看他们在平台上的青少年活动摘要，”哈里森写道。

哈里森补充道，该公司为青少年提供了一种不同的体验，旨在进一步减少用户接触到敏感或暗示性内容的可能性，或者促使模型返回此类内容的概率。

虽然民主党议员不大可能推动共和党掌控的国会监管AI，但韦斯对帕迪拉和韦尔奇引起公众关注这一问题表示赞赏，并指出在萨克拉门托提出的几十项与AI相关的法案有更大的机会成为法律。

“目前，人工智能伴侣没有任何限制，”韦斯说。“这太荒谬了。这项技术相当强大，既迷人又令人兴奋。”

由阿什本·鲍尔-卡汉议员携手Common Sense共同发起的AB 1064法案将设立一个标准委员会，评估并监管儿童使用的AI技术。

由圣地亚哥州参议员史蒂夫·帕迪拉（D-圣地亚哥）提出的第243号参议院法案将在本周二由参议院司法委员会审议。该法案也得到了Common Sense的支持，要求聊天机器人运营方落实关键的安全措施，以保护用户免受AI聊天机器人成瘾、孤立和影响的副作用。

在听证会前，帕迪拉将通过新闻发布会推广这项法案，届时他将与悲痛的佛罗里达州母亲梅根·加西亚一起出席。

若需帮助正经历抑郁或焦虑的年轻人，请拨打988联系国家自杀与危机求助热线。

(以上内容均由Ai生成)