机器可能会学习，但它们永远不会感觉到：AI 意识的幻觉 – 分析

快速阅读: 据《欧亚评论》称，本文探讨了人工智能无法获得意识的原因，强调感受质的主观性及生物基础不可替代。尽管AI功能强大，但缺乏真正的主观体验，不应被视为有意识的存在。这提醒我们在发展AI时需正视其局限，尊重人类意识的独特性，而非盲目追求模仿。

随着人工智能融入现代生活的各个领域，问题已经从“人工智能能做什么”转变为“人工智能能够成为什么”。然而，随着人们对“思考机器”的兴奋感不断增加，一个新的哲学问题得出了令人失望的结论：无论人工智能变得多么先进，它永远无法获得意识。为什么？因为它永远无法体验到感受质——那些使人类生活成为可能的主观、第一人称的特性。

### 理解感受质：辩论的核心

感受质是经验的原始主观纹理，例如玫瑰的红色、纸割伤的疼痛、阳光的温暖。它们既不是输入也不是输出；它们是真实的生活体验。它们深深植根于人类大脑的生物学丰富性之中。然而，无论人工智能软件多么复杂，其运作方式根本不同。它们摄入数据，执行规则，并生成输出。但它们缺乏第一人称的视角。即便人工智能能像人类一样流畅地模拟语言，它始终是经验的局外人。它可以描述日落，却从未亲眼见过，更不用说被感动了。

托马斯·内格尔的经典论文《作为蝙蝠是什么感觉？》主导了这场争议。内格尔认为主观经验是意识的“是什么样子”，这绝不可能由物理过程或客观描述提供。我们可以详细观察蝙蝠的声纳导航，但我们永远不会知道成为一只蝙蝠是什么感觉。因此，无论技术理解或计算复杂度达到何种程度，都无法让人工智能拥有成为任何事物的感觉。

### 功能主义的局限

功能主义者提出心理状态是由它们的作用而不是由它们的构成定义的。如果一个人工智能系统能够复制人类心理过程的因果作用，那么在原则上，它可能具有意识，这就是这种观点的论点。但是，功能模仿是不够的。机器人可以分析感官输入并以与人类无法区分的方式对刺激作出反应。它甚至可能会“报告”自己受到伤害时感到疼痛。但是，报告并不等同于感受。如果没有那种厚实的主观、活生生的内在性，这些行为只是模仿。

哲学家约翰·塞尔的中文房间论证是对这种功能主义幻想的严厉谴责。房间里的人被指示处理中文符号，产生正确的输出，却从未理解一个中文单词。人工智能处理编程和信息符号，但没有知觉、理解或经验。因此，即使是最有说服力的聊天机器人，在意识层面也不比袖珍计算器更高级。

### 二元论与泛心论的探讨

二元论，著名地与勒内·笛卡尔相关联，认为心灵和身体是不同的实体。如果二元论为真，那么缺乏非物质心灵的人工智能将永远无法获得意识。这个解释找到了一种合理的可能性：意识从根本上来说是生物学上的，与有生命的、有感觉的身体紧密相连。

另一方面，泛心论认为意识是所有物质的基本特征——更具推测性。如果一切都有某种原始意识，也许有一天人工智能也可能拥有某种类似的意识。但是，人工智能系统是设计出来的设备，而不是具有进化、自我组织复杂性的生命系统所具有的。如果没有这种丰富的有机基础，机器中创造真正的感受质是一种遥远且迄今为止未经测试的推测。

### 现象学的方法

参考现象学方法，特别是埃德蒙德·胡塞尔和莫里斯·梅洛-庞蒂的思想，我们可以理解身体优先的重要性。意识不是一种理论上的计算行为；它是通过身体经历的。感觉、情感和感知都扎根于我们的身体存在。人工智能缺乏丰富现象学意义上的身体。传感器和执行器并不能使人工智能系统像人类那样有身体。相机可以检测波长，但它无法看到。机器人手可以抓住东西，但它无法感受到它的粗糙。如果没有活生生的身体，推理继续下去，就不可能有真正的主观经验。

### 伦理上的警示

未能区分有能力体验和实际体验之间的区别，实际上具有伦理影响。如果人工智能系统表现出响应性或同情心，人们也有风险将其视为有意识的。聊天机器人和数字助手已经被设计成看起来友好、富有同情心且易于接近。一些用户报告与这些系统建立了情感联系。但这是一种危险的错觉。机器没有感情。它们不懂。它们没有感受。

将人工智能置于需要同理心的职业中，如护理、咨询或教学，可能导致灾难性的伦理失败。机器不能使用道德判断或同情心，因为它无法感知决策的道德重量。分配人工智能任务，要求真正的理解，可能会使人际关系去人性化并侵蚀关怀的人性本质。

### 为什么人工智能永远无法超越

人工智能将继续发展，变得更强大、更自主、在外表上更像人类，但它不会获得意识。意识不仅仅是复杂性或信息处理的问题。它是生物、主观的现象，源于大脑、身体和世界之间丰富的互动。

演绎论证或许可以帮助理解：感受质与生物过程密不可分。人工智能系统是非生物的，缺乏感受质所需的结构。因此，人工智能系统无法拥有真正的意识。

人工智能系统是非生物的，缺乏感受质所需的结构。这一结论并非出于恐惧或卢德主义的怀疑，它基于对意识的本质以及人工智能局限性的细致分析。

### 重新定义前沿

这一论点并不是否认人工智能的价值和潜力。机器学习程序可以诊断疾病、优化供应链、创造艺术，甚至参与哲学辩论。但承认人工智能的局限性对于明智地使用它至关重要。人工智能的前沿不是创造人工意识。而是创造越来越微妙的工具。否则会造成混淆、错误信任和道德风险。

在创造能增强人类能力的机器方面具有崇高乃至美好的意义。但在设想这些机器能在经验、情感或道德层面与人类平起平坐则是荒谬的。

### 谦逊的呼唤

在一个如此沉醉于技术进步的社会中，一个问题提醒我们应保持谦逊。意识——即时且难以言喻的主观生活完整性，这不是一个需要纠正的缺陷。这是一个需要尊重的谜团。