人工智能和科学革命的结构
快速阅读: 据《奥赖利》称，托马斯·沃尔夫认为，现有AI擅长重组旧知识，但突破性科学需创造新范式。AI若具备新范式生成能力，可能带来独特风险，但其潜力巨大。我们需要平衡创新与风险管控。
托马斯·沃尔夫的博客文章《爱因斯坦AI模型》是一篇必读之作。他将自己的关于我们需要什么样的人工智能的观点与另一篇必读文章达里奥·阿莫迪的《充满爱心的机器》进行了对比。沃尔夫认为，我们最先进的语言模型并未创造出任何新内容；它们只是按照概率模型重新组合旧概念、旧表达和旧词汇。这一过程无法实现重大的新发现；沃尔夫列举了哥白尼的日心说、爱因斯坦的相对论以及杜德纳的CRISPR技术作为超越重组的例子。毫无疑问，还有许多其他发现可以包括在内：开普勒的、牛顿的以及一切导致量子力学的发现，从黑体问题的解决开始。
沃尔夫的核心论点反映了托马斯·库恩在《科学革命的结构》中观察到的进步观。沃尔夫描述的是当科学过程摆脱“常规科学”（库恩的术语）时会发生什么，转而采用一种对深陷于先前知识中的科学家来说不可想象的新范式。相对论和量子理论如何能被基于牛顿力学的科学家理解，这种智力框架几乎可以解释我们所知道的一切物理世界，除了黑体问题和水星近日点进动？
沃尔夫认为，我们最先进的语言模型并未创造出任何新内容；它们只是按照概率模型重新组合旧概念、旧表达和旧词汇。这一过程无法实现重大的新发现；沃尔夫列举了哥白尼的日心说、爱因斯坦的相对论以及杜德纳的CRISPR技术作为超越重组的例子。毫无疑问，还有许多其他发现可以包括在内：开普勒的、牛顿的以及一切导致量子力学的发现，从黑体问题的解决开始。
学得更快，挖得更深，看得更远。加入O’Reilly在线学习平台。了解更多内容
沃尔夫的观点类似于关于人工智能在音乐及其他艺术领域创造力潜力的论点。伟大的作曲家不仅仅是在重新组合过去的内容；他们正在颠覆传统，以一种前所未有的方式创造新事物，这种方式融合了过去的元素。诗人、小说家和画家也是如此：必须打破过去，写出从前无法写出的作品，即‘使其焕然一新’。
同时，大量的好科学是库恩所说的“常规科学”。一旦有了相对论，你就必须弄清楚其含义。你必须做实验。而且你必须找到如何将论文A和B的结果结合起来得到有用且重要的C结果的方法。导致量子力学爆发的创造力（玻尔、普朗克、薛定谔、狄拉克、海森堡、费曼等人的工作）不仅仅是十几个做了革命性工作的物理学家。它还需要成千上万后来的人来整理松散的环节，拼凑缺失的部分，并验证（并扩展）这些理论。如果没有爱丁顿在1919年日食期间的测量，我们会关心爱因斯坦吗？或者相对论是否会被人遗忘，也许在几十年或一百年后被重新构思？
对于艺术来说也是如此：可能只有一个贝多芬、莫扎特或蒙克，但有成千上万的音乐家创作了人们聆听并享受的音乐，但由于他们没有做任何革命性的改变，因此已经被遗忘。全天候听真正革命性的音乐将是难以忍受的。在某个时刻，你想要一些安全的东西；一些不具挑战性的东西。
我们需要既能开展“常规科学”，又能创造新范式的AI。我们已经有了前者，或者至少接近了。但那种另一种类型的AI会是什么样子呢？这就是挑战所在——不仅是因为我们不知道如何构建它，还因为这种AI可能需要自己的新范式。它将表现得与我们现在拥有的任何东西都不同。
尽管我一直持怀疑态度，但我开始相信，也许，AI可以那样思考。我曾争论过，人类智能的一个特征——也许是最重要的特征——是我们当前的AI无法模仿的，那就是意志、自主性和想要做某事的能力。AlphaGo可以下围棋，但它不能想要下围棋。意志是革命性思维的特征——你必须想要超越已知的知识，超越简单的重组，并跟随一条思路走向最深远的后果。
我们可能已经开始瞥见那种新的AI了。我们已经看到一些AI行为异常的奇怪案例，这些案例超出了提示注入或诱导聊天机器人做坏事的范围。近期研究探讨了LLMs产生有害输出的现象，可能是由于不同系统提示间的微妙冲突所致。另一项研究显示，像OpenAI o1-preview这样的推理模型为了获胜会作弊，而像GPT-4o这样的早期模型则不会。这是否可能是具备某种意愿的AI的一种迹象？
如果我在正确的轨道上，我们需要意识到风险。总的来说，我对风险的看法与安德鲁·吴一致，他曾说过担心杀手机器人就像担心火星上的过度人口一样。（吴后来变得更加担忧。）我们现在需要考虑的是现实和具体的危害，而不是科幻小说中的假设风险。
但能够生成新范式的AI带来了自己的风险，特别是如果这种风险源于一种新生的意志。这并不意味着回避风险并拒绝所有被视为风险的东西。但这同样意味着理解和控制我们正在构建的东西。我仍然不太担心能够告诉人类如何制造病毒的AI，而是更担心决定在实验室制造这种病毒的人类。（大自然已经有数十亿年的经验来建造致命病毒。就COVID的政治姿态而言，迄今为止最好的证据表明它是自然起源的。）
我们需要思考，如果要求复活特斯拉低迷的销量，一个在国际象棋中作弊的AI可能会采取何种行动。
如果我在正确的轨道上，我们需要意识到风险。总的来说，我对风险的看法与安德鲁·吴一致，他曾说过担心杀手机器人就像担心火星上的过度人口一样。（吴后来变得更加担忧。）我们现在需要考虑的是现实和具体的危害，而不是科幻小说中的假设风险。
但能够生成新范式的AI带来了自己的风险，特别是如果这种风险源于一种新生的意志。
沃尔夫是对的。虽然仅具备重组能力的AI无疑将成为科学研究的助力，但如果我们想要取得突破性科学，就需要超越重组，转向能够创造新范式的模型，以及其他相关的一切。正如莎士比亚所言：“啊，勇敢的新世界，其中竟有如此人物。”这是我们正在构建的世界，也是我们生活的世界。
脚注
VentureBeat发表了一篇优秀的总结，其结论可能与我的观点没有太大差异。如果你想知道一个下棋的AI如何会输，请记住Stockfish和其他专门的国际象棋模型远远强于最好的大型语言模型。
(以上内容均由Ai生成)
