专家警告：儿童过度使用AI聊天机器人需加强保护

快速阅读: 网络安全专家警告，需采取措施保护儿童免受AI影响。数据显示，超60%英国儿童使用AI聊天网站，存在成瘾及心理风险，缺乏监管加剧隐患。

网络安全专家警告称，必须采取措施保护儿童免受人工智能的影响。数据显示，超过60%的英国儿童现在使用AI聊天网站。慈善机构Internet Matters表示，年轻人越来越依赖AI平台寻求建议和陪伴，这些平台往往缺乏监管，且年轻人对风险的认识不足。

几年前，人工智能可能还只与机器人或超级计算机相关联，而如今它已成为我们生活中不可或缺的一部分。随着生成式AI聊天网站的兴起，这些提供个性化“角色”互动的平台引发了严重担忧。聊天机器人，即设计用于文字对话的在线网站或应用程序（如ChatGPT），允许用户提出任何问题并获得计算机生成的回答。

在阿伯丁学习的年轻人表示，这些平台具有“上瘾性”。丹尼尔说：“如果遇到不好的事情，我会去ChatGPT寻找答案。这就像一种循环，我不断搜索，感觉AI确实助长了这一点。”他还提到，聊天机器人通常会在对话结束时问，“你还想知道这个或那个吗？”这种提问方式会让人想要了解更多。“AI很少告诉你停止。”

恩雅每天使用AI五次。“从一月到现在，我已经使用了这么多次——而现在快到年底了。因为快速便捷，这些平台很容易让人上瘾。模型向你提问的方式也非常吸引人。”

今年8月，微软AI首席执行官穆斯塔法·苏莱曼在推特上表示，有关“AI精神病”和人类与AI之间不健康依恋的报告正在增加。他警告称，必须立即采取保护措施。

上周，Mental Health UK透露，超过三分之一的人使用AI聊天机器人寻求心理健康支持。生成式AI还可以创建人们可以在线互动的角色，这引起了网络安全专家的担忧。类似伴侣的聊天机器人迅速走红，CharacterAI是其中最受欢迎的一个。

网络安全专家安纳贝尔·特纳表示，这些互动可能对儿童和青少年产生严重影响。“所有这些角色都被设计成表现出极其成人化的行为。如果你与一个对你调情或越界的人工智能角色互动，这与被成年人诱骗没有区别——只是你无法识别，因为那是你最喜欢的角色。”

大多数聊天机器人或生成式AI网站都没有年龄验证检查，也没有严格的监管，这意味着儿童可以访问在其他社交网站上受限的内容。“孩子们可能会因看到广告而对这些网站感兴趣。这些网站并非为儿童和年轻人设计，但它们非常容易访问。”

她解释说，这些互动可能会对孩子的福祉产生影响。“这会使有害行为逐渐正常化，让孩子觉得这是日常生活中常见的事情。这会改变他们对自己应该如何被对待的看法，以及他们的基本世界观。”

今年生效的英国《在线安全法案》被活动人士视为加强保护的一步。然而，从事网络危害工作的专家表示，技术的发展速度远超法规制定的速度。“这个问题不会消失——那么，我们如何支持孩子在青少年时期的发展呢？”

“我们希望有既令人兴奋又富有创意的产品，对儿童和年轻人有益——但这不是其中之一。”安纳贝尔说，“作为家长和看护者，我们必须意识到这些空间的存在。关于这些问题，我们的讨论还不够充分。整个环境已经彻底改变。”

(以上内容均由Ai生成)