家长们担心 AI 聊天机器人会在儿童应用程序中弹出。专家表示，以下是需要注意的事项。

快速阅读: 据《商业内幕》最新报道，人工智能聊天机器人在儿童应用中日益普及，引发家长担忧。研究表明，孩子们可能过度分享信息，导致隐私泄露。尽管这些机器人在学习、娱乐及情感支持方面有潜力，但缺乏针对儿童的设计准则。剑桥大学和哈佛大学的研究人员强调，需确保这些技术以儿童安全的方式运作。专家建议家长应教育孩子正确使用，而非完全回避。

人工智能聊天机器人在各个地方变得越来越普遍——甚至在儿童友好的应用程序中也是如此。关于孩子们如何与聊天机器人互动的研究并不多。孩子们可能会过度分享信息，这可能导致隐私泄露。一些家长对此表示担忧。公司正急于在面向儿童和青少年的消费应用和服务中加入人工智能聊天元素。我们并不完全理解年轻人如何与人工智能聊天机器人互动，也不知道如果他们经常使用这些机器人，可能会产生哪些潜在的社会和情感影响。特别是对于年幼的孩子来说，他们可能无法区分现实和虚构。洛杉矶的一位母亲克里斯（化名）担心孩子的隐私问题，她告诉我最近她与10岁的女儿和一个人工智能聊天机器人发生了一次令人不安的遭遇。

**ChatGPT**是什么？我们应该害怕人工智能聊天机器人吗？在她的允许下，她的女儿下载了一个提供额外表情符号的应用程序。有一天，这个应用程序突然增加了一个名为“询问AI”的功能，可以提供关于宝可梦或Skibidi马桶的表情包搜索。克里斯的女儿一直在与聊天机器人交谈，并给它起了一个名字，告诉了它自己的名字，而它正在用这个名字与她交流。她告诉妈妈，人工智能聊天机器人是她的“朋友”。克里斯对此感到不安，因此删除了这个应用程序。

当然，人工智能聊天机器人也为孩子们提供了机会——在学习和学校环境中，在娱乐方面，以及在情感和治疗情境中。2023年底，歌手**格里姆斯**（Grimes）与玩具制造商合作推出了一系列由她本人配音的人工智能聊天机器人毛绒玩具，内置扬声器和麦克风，可以与孩子们聊天。（我立即买了一个——尽管我的孩子们很快就失去了兴趣。）另一款标价800美元的人工智能机器人**Moxie**声称能够帮助社交和情感学习。这款机器人在疫情期间早期推出，最终因资金不足而关闭。那些孩子们已经与机器人成为朋友的家长们感到非常沮丧。公司找到了开源解决方案，使机器人的拥有者可以在企业所有者离开后继续使用它们。

相关报道指出，针对儿童的人工智能聊天机器人研究有限。像**ChatGPT**这样的大型语言模型（LLMs）仍然很新，关于青少年和孩子如何使用人工智能聊天机器人或可能受到的影响，还没有大量的科学研究或学术研究。除了限制性内容外，没有普遍的指导原则来设计适合儿童的聊天机器人。**Pinwheel公司**（生产儿童友好手机）的丹·维特贝克表示，将人工智能聊天机器人塞进儿童和青少年的应用程序中是个坏主意。“当我们给孩子们使用不是为他们设计的技术——而是为成人设计的技术时，我们已经看到确实存在真正的危害，而且负面影响可能是严重的。”

**剑桥大学**的一位研究人员在今年6月发表了一篇论文，呼吁为儿童设计的人工智能语言模型应以儿童安全的方式进行，尤其是考虑到聊天机器人中的“共情差距”，孩子们往往难以察觉。**哈佛大学**学习与教育领域的人工智能助理教授徐颖一直在研究人工智能如何帮助小学年龄段的孩子提高读写能力和数学能力。徐教授认为教育环境中有很好的潜力。（她引用了**Khan Academy Kids**应用程序作为人工智能良好应用于儿童的例子。）

徐教授告诉《商业内幕》杂志，虽然已经有研究探讨了孩子们如何使用**Siri**和**Alexa**等设备，但对于新的大型语言模型在儿童使用方面的复杂性，尚未有全面的理解。“有一些研究已经开始探索**ChatGPT/LLMs**与短期结果之间的联系，比如通过人工智能学习特定的概念或技能。”她在电子邮件中说，“但关于长期情感结果的证据较少，这需要更多的时间来发展和观察。”

**Dante**是一家创建用于各种用途（包括教育用途）的聊天机器人的AI公司，其首席执行官詹姆斯·马丁告诉《商业内幕》，家长们的担忧是有道理的。“过度分享不仅是可能的，而且是不可避免的。”他说。“孩子们会告诉AI一些他们不会告诉父母、老师或朋友的事情。AI不会评判，也不会引导，它只会回应。”

成年人如何看待人工智能对他们的孩子？考虑到孩子们还小，相信圣诞老人的存在，你可以想象，使用像人类一样交谈的聊天机器人有时会让孩子们感到困惑。即使是有些成年人，与人工智能聊天机器人建立了情感联系，也会感到困惑。还有人担心人工智能聊天机器人被用于心理健康支持——大型语言模型往往会强化你的观点，而不是像人类治疗师那样挑战你。

**Bark公司**的首席营销官塔蒂亚娜·乔丹表示，目前没有人确切知道人工智能聊天机器人对年轻人的情感会产生什么影响。“我们现在才开始研究过去15年屏幕时间对孩子们产生的影响。”她告诉《商业内幕》杂志。几乎我采访过的所有行业观察家都同意一点：人工智能聊天机器人将会存在下去，家长们应该考虑如何安全地教导孩子们如何使用它们，而不是完全避免它们并希望它们消失。“我们谁也无法阻止人工智能的到来。”乔丹说。“我们必须教育我们的孩子，这是一个工具。它可以是一个有益的工具，也可以是一个有害的工具。”

(以上内容均由Ai生成)