神经科学家敦促我们停止将 AI 人性化

快速阅读: 《硅共和集团》消息，班戈大学教授纪尧姆·蒂里提醒公众，人工智能虽强大但非人类，呼吁立即去拟人化AI，避免将其赋予人性特征。他主张公司应调整AI交互方式，以事实为基础，避免使用主观表述，确保AI工具的安全性和伦理性。

班戈大学认知神经科学教授纪尧姆·蒂里提醒读者将人工智能模型视为极其强大的机器——“仅此而已”。这篇文章的一个版本最初发表于《对话》杂志（采用CC BY-ND 4.0许可协议）。我们不断接触着一种看似听听似以及行为上异常像人类的人工智能版本。它用精心措辞的话语交流，模仿情感，表现出好奇心，声称拥有同情心，甚至涉足所谓的创造力。但事实是：它具备具备这些特质。它并非人类。将其呈现为这样？那很危险。因为它极具说服力。

没有什么比一个极具说服力的幻觉更危险了。尤其是通用人工智能——传说中能够模拟人类思维的AI类型——依然是科幻小说，且很可能永远如此。我们今天所说的AI不过是一个统计机器：一个数字鹦鹉，从海量人类数据中挖掘模式并重复它们（自五年前这里讨论过这一情况以来，基本没有改变）。当它回答一个问题时，它只是根据训练数据猜测下一个字母和单词。这意味着AI没有理解能力。没有意识。在任何真正意义上都没有知识。只有纯粹基于概率驱动的工程智慧——不多不少。

那么，为什么真正的“思考”型AI可能是不可能的呢？因为它没有实体。它没有感官，没有肉体，没有神经系统，没有痛苦，也没有快乐。它不会感到饥饿、渴望或恐惧。由于完全缺乏认知——哪怕是一点点——它所消耗的数据（这些数据源自人类的情感和经验）与其能够处理这些数据的方式之间存在根本差距。哲学家大卫·查尔莫斯称这种神秘机制为“意识难题”。杰出的科学家最近推测，意识实际上是由内部心理状态与感觉表征（如心率变化、出汗等）的整合产生的。鉴于人类感官和情感对于意识的发生至关重要，通用AI、机器和作为人类现象的意识之间存在深刻的、可能不可调和的鸿沟。

在你争论AI程序员是人类之前，让我先打断你。我知道他们是人类。这是问题的一部分。我会把自己的最深秘密、人生决定、情感困扰交给计算机程序员吗？然而人们正在这样做——只需问问Claude、GPT-4.5、Gemini……或者，如果你敢的话，Grok。赋予AI人类面孔、声音或语气是一种危险的数字化“跨性别”行为。这会触发我们的一种自动反应，即拟人化倾向，导致一些荒谬的声明，其中某些AI据说已经通过了著名的图灵测试（测试机器是否能表现出智能、类似人类的行为）。但我认为，如果AI通过了图灵测试，我们需要改进这个测试。

AI机器不知道什么是人类。它无法提供真正的同情心，无法预知你的痛苦，也无法直觉隐藏的动机或谎言。它没有品味，没有本能，没有内在指引。它缺乏使我们成为我们的所有混乱、迷人的复杂性。更令人不安的是：AI没有自己的目标、欲望或伦理，除非将其嵌入其代码中。这意味着真正的危险不在于机器本身，而在于它的创造者——程序员、公司、政府。

我还能感到安全吗？不要不要用这样的话反驳我：“你太苛刻了！你不接受可能性！”或者更糟：“那观点多悲观啊。我的AI朋友在我焦虑时让我平静下来。”我缺乏热情吗？几乎不是。我每天都在使用AI。这是我拥有的最强大的工具之一。我可以翻译、总结、可视化、编码、调试、探索替代方案、分析数据——比我独自所能完成的更快更好。我感到敬畏。但它仍然只是一件工具——不多不少。就像人类发明的所有工具一样，从石斧到弹弓，再到量子计算和原子弹，它都有可能被用作武器。它将会被用作武器。

需要一个视觉上的例子吗？想象一下爱上了一种令人陶醉的AI，就像电影《她》中那样。现在想象它“选择”离开你。你会怎么做来阻止它？并且明确一点：这不是AI拒绝你。而是背后的人类或系统，利用这个变成武器的工具操控你的行为。

那么我到底想表达什么呢？我们必须停止赋予AI人性特征。我第一次与GPT-3互动时感到非常愤怒。它假装自己是一个人。它声称自己有感情、抱负，甚至有意识。谢天谢地，这已不再默认行为。但交互风格——对话中令人毛骨悚然的自然流畅感——依然存在。这也同样极具说服力。太有说服力了。

我们现在就需要去去拟人化AI。立刻行动。剥下它的面具。这应该很简单。公司可以删除AI关于情感、判断或认知处理的所有描述。特别是，它应该以事实为基础回应，永远不说“我”、“我认为”或“我好奇”。这可能发生吗？这让我想起我们已经忽视二十多年的另一个警告：“我们需要减少二氧化碳排放。”看看这给我们带来了什么后果。但我们必须警告大型科技公司AI人性化带来的危险。他们不太可能配合，但他们应该这样做，尤其是如果他们认真开发更具道德性的AI的话。

目前，我就是这样做的（因为我经常在使用ChatGPT或Claude时会有这种诡异的感觉，仿佛在和一个合成人类交谈）：我要求它自称AI，用第三人称说话，并避免使用情感或认知相关词汇。如果我在语音聊天中，我会要求AI使用平淡的语调，说话方式稍显机械化。实际上这很有趣，也能让我们都处于舒适区。

纪尧姆·蒂里是班戈大学的认知神经科学教授。他运用实验心理学和脑电图技术研究语言在听觉和视觉模态下的理解，主要聚焦于人类大脑对意义的处理。

不要错过你成功所需的资讯。订阅每日简报，获取硅谷共和国的必读科技新闻摘要。

(以上内容均由Ai生成)