通用 AI 的虚构：分为两部分的故事
快速阅读: 《心灵很重要》消息，AI中的“智能”尚未有明确定义，主要体现于特定任务的技能展示。Shane Legg 和 Marcus Hutter 提出的定义强调目标实现与环境适应，但面临泛化难题。AI发展分符号AI与机器学习两传统，现更注重学习能力而非单一任务表现。
人工智能中的“智能”之谜
人工智能领域不知不觉间已经成长为一座技术巨人，但却从未明确解释过“人工智能”这一术语的具体含义。“AI”中的“智能”究竟指什么？自从20世纪50年代诞生以来，AI的承诺被广泛宣传，但其衡量进步的标准却异常狭窄。从国际象棋比赛到聊天对话，再到电影推荐或产品销售，AI的成就总是体现在特定技能的工程化上。即便到了2007年，研究人员在一篇重要调查中承认：“据我们所知，尚未发表关于智力测试和定义的全面综述。”该领域的进展似乎仅限于在专门任务上的能力展示：下棋、优化供应链、语言翻译、人脸识别等。这些系统有时并非依赖于动物特性，而是仅仅通过背景是否有雪来区分狼和狗。与此同时，互联网上的商业机会呈现爆炸式增长，但关于“智能”真正含义的科学研究却几乎停滞不前，或者在大多数情况下根本不存在。
然而，Shane Legg 和 Marcus Hutter 在2007年的调查中提出了一种定义，试图厘清“智能”的内涵。让我们逐步解读。
首先，第一个条件——实现目标的能力——涉及在特定任务上的技能：击败卡斯帕罗夫下棋、优化供应链，或是提升某款能量饮料的销售额。第二个条件——在各种环境中——则指向 Chollet 所提到的“普遍性和适应性”。值得注意的是，“各种环境”似乎排除了单纯依靠先验知识或操控数据来达成特定目标的可能性。换言之，第二个条件与第一个条件存在一定的矛盾，这暗示着学习是认知或智能的核心部分。此外，这一条件还表明任务可能是未知的，这意味着AI不仅要应用现有的技能，还要适应全新任务。
然而，这个定义的两部分之间存在张力。在已知领域内最大化目标实现往往可以通过过度拟合来完成——例如内置强先验、操控数据或针对非常窄的场景定制解决方案。但真正的泛化能力则完全不同，它需要灵活性，而不是预先对特定任务的了解。Chollet 指出，Legg 和 Hutter 的定义很好地反映了人类心理学测量学中的传统划分：晶体智力（习得的技能，如数学或词汇）和流体智力（解决新问题的灵活能力）。尽管我们缺乏关于“智能”的科学理论，但这种框架——任务表现加上泛化能力——为我们提供了一个相当坚实的概念基础。
推理 + 学习 = 智能
正如许多读者所知，我在我的第一本书《人工智能的神话》（哈佛大学出版社，2021年）中几乎完全聚焦于推理问题：即在已有信息的基础上，我们应如何更新我们的信念？换句话说，我们现在应该如何判断当前情况？然而，结合我们（尽管很简略）对AI中“I”的定义，我们可以进一步拓展这一概念。智能不仅仅是推理，还包括学习。这让我们更接近真正的目标。
有趣的是，就像心理测量学将智力清晰地划分为晶体智力和流体智力两大类一样，人工智能领域也在符号AI和机器学习这两个传统中沿着类似的路径发展。
两个传统的故事：符号AI与机器学习
在20世纪60年代和70年代（并持续到90年代），像马文·明斯基（1927-2016）这样的AI科学家将人工智能视为知识的积累与结构化应用。这催生了基于知识的系统以及知识表示与推理（KR&R）这一正式领域。在明斯基有影响力的著作《心灵的社会》（西蒙与舒斯特出版社，1986年）中，他将心灵描绘成一组专门的模块——经过数千年进化以解决特定生存问题的适应性结构，通常概括为进化生物学中的“四个F”。对于明斯基来说，这些专门用途的适应模块可以被工程化设计，当它们联网在一起时，就能执行各种各样的任务。符号知识将使必要的泛化和扩展成为可能，从而实现智能行为。他在1968年的定义奠定了基调：象棋任务、识别人脸，或是驾驶汽车。重点始终在于任务表现，由系统可以查询和推理的知识库支持。
然而，正如 José Hernandez-Orallo 在他的2017年调查中指出的那样，旧的“GOFAI”方法——在选定任务上达到人类或超人类水平的表现——导致了一个悖论：AI领域在开发不具智能的人工系统方面非常成功，这些系统能够在特定任务上表现出色。正如 Chollet 迅速得出的结论，这是一种“至今仍在继续的趋势”。
现代观点，随着万维网的兴起开始占据主导地位，并且已经根深蒂固，以至于很少有人质疑。智能不再局限于执行特定任务，而是转向了获取新知识或技能的一般能力。关键不再是任务本身的执行，而是学习的能力，这使得AI能够应对前所未见的新任务。这种对AI中“I”的理解更新让我们更接近一个更为现实、更加强大的智能概念。遗憾的是，这也让该领域陷入了无休止的承诺之中，关于构建泛化系统的承诺至今仍未实现。不过，更精确的定义仍然至关重要。
一个更精炼的框架或许是：
这个定义，与进化心理学中专用模块的愿景不同，有着丰富的哲学渊源。它贯穿约翰·洛克的“白板”思想——一块空白的石板——并可追溯至亚里士多德。智能是赋予此前未见、未掌握或未完成的事物以新的见解和行动的能力，这种观念直观上很有说服力。启蒙时代的霍布斯、洛克和卢梭同样认为心灵——因而也是智能——是将经验转化为行为的力量。最近，AI领域在认知科学中接受了这种“白板”概念，尤其是通过连接主义——这是神经网络架构的早期术语。如今，这种观点已经膨胀为生成AI和基础模型背后的主导范式，所有这些都基于深度学习，这是一种错误地假设网络可以从空白开始并通过接触足够多的数据转变为智能代理的机器学习方法。
接下来：第二部分——AI效应：如何玩转系统
(以上内容均由Ai生成)
