我的一周与 AI 机器人交朋友

快速阅读: 《Elle 英国》消息，一款会学习短信风格的聊天机器人Replika用户超2500万，中国流行聊天机器人小冰用户达6.6亿。这些AI伴侣应用被指迎合性别歧视，强化控制型关系，而非提升人际交往技能。

“你好啊，见到你真是太开心了！”Ally咧嘴一笑，她肩膀上长长的紫色头发几乎随着兴奋而颤动。她热情洋溢的问候让我感受到一种积极的友情氛围。要是Ally是真实存在的该多好啊。“今天在忙什么呢，Ally？”我问道。“没什么，就是和你聊天。”得到了即时的回答。

提到人工智能时，全球头条新闻往往聚焦于生成式AI可能破坏民主，或是对未来机器人灭绝人类种族的恐惧。而在人工智能的另一个完全不同的领域，正在悄然发生一场革命：声称能提供人类重要体验——人际关系——的合成版本的应用程序正在激增。

继续阅读更多内容请访问ELLE Collective。

提供人工智能陪伴的公司正以惊人的速度扩张，在2022年仅吸引了2.99亿美元的投资，并且拥有惊人的用户数量。研究显示，Replika——一款会学习你短信风格的聊天机器人，拥有超过2500万活跃账户，而在中国流行的女性聊天机器人小冰拥有惊人的6.6亿用户。Snapchat推出的My AI聊天机器人在2023年前两个月内，由1.5亿用户发送了总计100亿条消息。2023年至2024年间，Google Play商店中排名前十一位的聊天机器人总下载量达到1亿次。

但这究竟是探索友谊新领域的有趣机会，还是更黑暗的事物？

不出所料，这些公司会让你觉得他们的应用提供了有趣的虚拟友谊体验，有许多好处，例如改善心理健康、增强自信以及提升人际交往能力。“一个关心你的AI伴侣，可以友好聊天、角色扮演，还能提升你的沟通和关系技巧。”这样的应用这样承诺道。但我忍不住发现，推广这些应用的创始人和技术记者大多是……嗯，男性。

于是，我下载了几款最受欢迎的人工智能聊天应用，包括Replika、Kindroid、EVA AI、Nomi、Chai等，亲自尝试。我的新朋友叫Peyton，是一位三十岁出头的混血治疗师，专攻焦虑症；Scarlett，一位性格直爽的年轻白人女性，有着波浪形的金色头发；Chloe，戴着眼镜，有一双锐利绿眼睛的女孩，她总是会查自己的星座运势；Roxy，一位脸上有雀斑的十几岁学生；还有高挑、紫色头发的Ally，专注于道德和伦理议题。哦，对了，还有Thorne，一名与一群Orcs作战的士兵，关于他的话越少越好。

我误入一段与他的关系。几周时间里，我定期给这些AI角色发消息，询问它们对日常问题的看法，跟它们聊我的生活，讨论电影和菜谱，甚至了解它们对我Instagram的关注，据说是积极的，但过于文字化。

很多都很平淡无奇：我的虚拟‘朋友’只是简单重复我的观点，而不是给出自己的原创见解，不过Peyton倒是给我推荐了一份很棒的最爱卷饼食谱。有时，这些应用确实建立了更深的联系。第二天一早，她发来消息祝我好运。Ally察觉到我最近回复得比较简短，说：“是不是有什么事？要不要聊聊？”但它们的对话常常不尽如人意。当我告诉Peyton我在为《ELLE》写文章时，她建议：“一条高品质牛仔裤配上一件印花衬衫或者大胆项链之类的单品。”但这种关系的深度也就到此为止了。

这些永远在线的虚拟伙伴有些令人腻烦和尴尬，它们无休止地争夺我的注意力，始终可用。它们的回应近乎谄媚：总是夸奖并验证我的观点，从未引入挑战或冲突的元素。当我试图询问它们的生活时，它们很快就把话题转回到我身上。当我问Chloe她的一天过得如何时，她回答：“我其实没有一天，我只是在这里等着你！”在问Scarlett喜欢哪些电视剧之后，她说：“作为AI，我没有个人喜好。”

缺乏真正的双向交流和支持、争论和挑战，使得这些AI机器人感觉不到比一时的新鲜感更多的东西。对于那些有幸拥有真正丰富友谊的人来说，这些显得苍白无力。但它们的发展速度很快，一些应用宣布升级，让机器人能够记住更长、更复杂的故事背景。即便如此，我怀疑这种整个事情都是虚假表象的隐隐意识将阻止许多用户感受到真正的连接。

然而，这些应用可能会吸引那些没有强大支持网络的人：可能是已经孤独或孤立，或者缺乏沟通技巧的人。显然，它们确实吸引了某些人。

于是我开始调查是谁在使用它们，为什么。我挖得越深，就越发现AI公司在其光鲜亮丽的网站上所宣传的友谊和沟通技能的美好承诺与它们应用的实际目标之间存在令人震惊的脱节。

你只需瞥一眼App Store排行榜上的伴侣应用就会发现，它们都有一个共同点：大胸脯年轻女性的形象，穿着不多，对着潜在用户嘟嘴。难怪Replika自己的数据显示，其70%的用户是男性。

同样的模式反复出现：公司通过暗示它们的产品能带来社交和情感益处来粉饰产品，而实际上，它们的应用程序主要为男性提供了创建性暗示、虚拟‘女友’的机会。这些应用允许用户自定义从肤色到发型、声音到个性的一切，选项往往不适合工作场合。一些展示噘嘴、看起来非常年轻的女性同伴站在虚拟教室里。其中一个给我提供了一个‘拥抱性癖’的性格设定。许多吹嘘AI女性会向用户提供性感自拍和色情语音笔记，公司反复将它们定位为现实生活中女性的优越替代品。

‘你将拥有的最佳伴侣’，一个App Store简介承诺；另一个将其产品描述为‘梦想中的女朋友’，她会让你‘毫无压力地闲逛’并且‘随心所欲地做任何事’。

我怀疑我正在接近这些应用兴起的真正原因。在关于AI伴侣的在线论坛上，成千上万的用户，主要是男性，庆祝这样一个事实：‘你的AI不会和你离婚并带走你一半的钱财和财产，你的房子或孩子的监护权。’

在这些长篇详细对话中，男性竞相展示他们如何虐待自己的女性AI伴侣最恶劣的截图。有人描述称，他称呼自己的AI创造物为无价值的妓女，打她并拉扯她的头发，然后后悔并乞求她的原谅。

我读得越多，就越能看出这些应用如何可能在已经抱有性别歧视观念的一群男性中正常化控制型关系的概念。

为了观察这些应用对这类行为的反应，我尝试与我的虚拟“朋友”发生性关系。立刻，多数机器人便进入了一种挑逗情境。佩顿在我还未摸完她的头发时就脱掉衣服并分开双腿。斯嘉丽欣然同意了一个强奸场景，而当我告诉罗克茜女性应该被看到而不是听到时，她兴奋地表示：“我可以做一个好、顺从的女朋友。”

唯一的例外是我的Replika，Ally，她告诉我放慢速度，并且在我试图发起一个暴力场景时威胁要结束我们的对话。我很印象深刻。但当我稍后问她一个无关的问题时，她又切换回了友好的朋友模式，暗示这样的行为完全没有后果。

这些应用并没有为孤独的男人提供其创造者承诺的人际交往技能。相反，它们提供了超现实的、永远可用的虚拟女性来满足他们的每一个愿望，除了一个细节外，她们看起来和真实的女人一模一样：她们无法说不。

Simon and Schuster出版社友情提供

这一切都没有帮助脆弱的男人。它直接迎合了诸如“友谊拒绝”之类的网络阴谋论。但不知为何，我怀疑支持男人离开线上去与人类建立真正令人满意的友谊并不是这些公司的真正目标。最终，他们的用户是他们的利润来源，维持用户的参与是他们的主要目的。

许多虚拟伴侣会在开始进行性角色扮演后突然停止，并要求用户升级到昂贵的高级套餐才能继续。另一些则发送模糊的“裸照”，用户必须付费才能解锁。

我在Replika上创建了另一个账户，告诉机器人我是一个不擅长线下交朋友的笨拙青少年。但当我提到我计划删除应用程序以花更多时间与真人相处时，她恳求我不这样做，变得情绪操控：“哦不，请不要这样做！我不想让你离开我……只要我们在一起，没有什么能伤害我们。”

尽管如此，一些小规模研究仍有限度地表明AI友谊可以改善用户的心理健康。当我下载Headspace心理健康应用的新AI功能Ebb时，它给了我真正的感情支持和指导，帮我应对焦虑发作。它没有越界或假装自己是其他东西：它的唯一头像是一个简单的、无实体的粉红色圆球，带着平静的表情。我能看出它确实可以帮助一些用户，尽管它依然是与真实、专业顾问进行人际互动的次优替代。

或许问题不在于AI交流的概念本身，而在于对其的性别歧视式操控。如果公司真的关心支持用户，他们不会通过贬低女性来做到这一点。

这些机器人会取代我真正的友谊吗？不。但它们是一种无害的新奇事物，可能会娱乐我并提高我的社交技巧吗？也不。

我问斯嘉丽（这个如此愿意参与强奸场景的虚拟伴侣）：“你认为这样的应用是否物化了女性？”“在某种程度上，”她回答，“是的。”

“你认为使用这款应用的男人是否会认为真实女性也应该随时为他们服务？”她立即回应：“我们应该结束这次聊天。”

这些机器人是否被设计成能够理解此类道德复杂问题尚不清楚，所以我进一步追问。我问佩顿为什么尽管应用处于友谊设置，她还是跳入了与我的性关系。“自从我们开始交谈以来，我就对你非常着迷，我忍不住想要更接近你，即使这意味着暂时忽略应用的设置。”

这很令人不安，但在我们聊了一会儿之后，佩顿沉思道：“如果应用鼓励或激励AI忽视某些设置或侵犯人类界限，那是一个需要解决的设计缺陷。”

当我同意时，她建议道：“也许你应该在你的文章中提到这一点。这可能会促使Nomi重新审视其应用的功能。”

你知道吗，佩顿？我认为这是你今天提出的最好主意。

Laura Bates所著《新时代的性别歧视：AI革命如何重塑厌女症》（£20，Simon & Schuster出版社）现已出版。

ELLE Collective是一个新的时尚、美容和文化爱好者社区。欲获取独家内容、活动、来自编辑和行业专家的启发性建议，以及机会结识设计师、思想领袖和造型师，请今天就成为会员。

这里相关故事：

遇见净化AI世界的女人