AI聊天机器人不应成为你最好的朋友：情感表达的风险

快速阅读: AI技术快速发展，改变了社交、家庭和工作环境。情感表达技术的发展带来了潜在风险，如加剧个人回音室效应和社会工程问题，影响人际关系和社会行为。

我们正处在一个互动AI工具和技术迅速发展的激动人心的时代，这些技术正在快速改变我们的社交、家庭和工作环境。最近关于情感表达的一些发展突显了这项技术对我们人性可能带来的潜在风险。

在一项经典研究中，一岁的婴儿被放置在靠近“视觉悬崖”边缘的透明塑料板上，这让他们觉得地面突然下降，他们可能会跌落。他们的母亲站在悬崖的另一边，婴儿会观察母亲的面部表情来判断是否有危险。如果母亲表现出积极的情绪，大多数婴儿会选择越过悬崖；如果母亲显得焦虑或消极，婴儿就会拒绝向前爬行。这种通过观察他人来决定如何行动的社会参照行为贯穿人的一生。我们根据情感的表达来决定如何行动以及信任谁。现在，我们已经创造了一种情境，其中情感表达的信号不再准确——它们可以被逼真地创造或改变。

他人的表情是强大的信号，会影响我们的行为。保龄球手不会在击倒球瓶时微笑，而是在转向朋友时才露出笑容。如果我们看到有人表现出喜悦，这表明我们可以接近并与之交流，他们欢迎我们。负面情绪的表达在塑造行为方面可能更为强烈。如果我们看到某人表现出愤怒，我们会认为他们有力量，更可能屈从于他们的要求。如果有人表现出厌恶或轻蔑，我们会感到有必要调整自己的行为以减少他们的负面评价。

依赖情感信号来调整行为的系统通常有效。它使我们能够快速理解他人如何看待某个情况，并将注意力集中在他们关心的事情上。这有助于我们建立和维持关系，因为我们能更好地与他人沟通和互动。但现在，AI虚拟形象和聊天机器人能够逼真地通过面部和身体姿势表达情感。这可能导致两个严重的问题：

1. 加剧个人回音室效应。社交媒体算法已经为人们创造了回音室，让我们可以选择与谁互动以及接触什么样的信息。随着时间的推移，这会导致视角狭窄和基于有限信息的不良决策。人们普遍倾向于积极，更喜欢那些对自己表达积极情感（如感激和快乐）的聊天机器人。人们花越多时间与这些虚拟形象互动，就越习惯于从他人那里获得高水平的积极反馈。因此，任何来自他人的负面或中立表情都会让人感到沮丧和气馁。特别是青少年，他们更容易过度感知他人的愤怒。对于那些转向情感表达回音室的人来说，最大的损失将是缺乏对其行为的实际反馈。人们向我们表达的情感提供了关键信息，告诉我们如何与他们互动以及可能需要调整的行为。例如，在恋爱关系中，愤怒的表达往往突出重要问题，最常见的反应是双方共同努力解决问题。更广泛地说，人们向我们表达的情感帮助我们调整行为以符合社会期望。道德行为和信念通过情感表达在社会内部传递。如果我们做了被认为是不道德或违反社会规范的事情，其他人通常会表达愤怒、轻蔑或厌恶。这些表情是强大的社会动力因素，促使我们改变行为。没有这种反馈，人们将更加自由地表现和表达其最恶劣的冲动。

2. 最恶劣的社会工程。当然，能够传达情感表达的聊天机器人也能够对人们的行施加强大影响。例如，经过情感调整的虚拟形象可以在人际互动中欺骗我们。情感表达与解码之间的关系被描述为人类持续的进化斗争。能够欺骗他人以达到目的是一种优势，而有效撒谎的一部分能力就是控制情感表达。同样，能够检测欺骗也是一种优势。

为了保护自己不受谎言的影响，人类逐渐发展出了欺骗和识破欺骗的能力。这些能力被认为是在人类进化过程中共同发展的，随着时间的推移，人们在欺骗技巧上变得越来越娴熟，同时也更加擅长识别他人的欺骗行为。

目前，撒谎和隐藏真实感受需要付出努力和控制。因此，说谎者往往会通过微表情等细微表现无意中透露出他们的真实情感，这些微表情会在短时间内暴露潜在的情绪，或者通过身体姿态和声音音调等其他线索表现出来。不同的人在识别他人微表情方面的能力各不相同，情感智力较高或接受过专门训练的人在这方面表现得更好。然而，现在人们可以利用人工智能工具对自己的视频进行处理，以生成虚假的情感表达，甚至开始模拟微表情。

一旦这些表情变得足够逼真，人类将无法从他人的反馈中获得关于自身行为的信息，也无法准确地识别他人的情绪或欺骗行为。我们可能会自由地做任何事情，并被诱导相信任何事情。

本文部分贡献来自Nicole K. Parker, MPSA, PHR。

(以上内容均由Ai生成)