LLM 的爱因斯坦
快速阅读: 《福布斯》消息，这段话讨论了天才的培养和科学突破的来源。作者认为，仅增加优秀学生数量不足以培养出天才，真正的科学突破源于提出新问题和质疑旧观念。此外，文中提到学术十项全能竞赛中的学生大多为框内思考者，而非颠覆者。惠特默指出，当前的LLMs像优秀的学术选手，但缺乏创新能力。他还提到了多智能体过程的重要性，认为未来的AI应具备提出问题的能力。
约1931年：出生于德国的物理学家阿尔伯特·爱因斯坦（1879-1955）站在一块黑板前，黑板上写满了粉笔标记的数学计算。（照片由赫尔顿档案社/盖蒂图片提供）
盖蒂图片实现下一代人工智能需要什么？在过去的一年里，我们听到了很多关于这个问题的讨论——我们看到了一种在扩展定律方面的危机感，业内的重要人物担心我们将无法继续提升系统的功率。但我们也有很多关于什么是通用人工智能的辩论——我们什么时候可以说达到了那个点，以及这意味着什么。
托马斯·沃尔夫撰写的一篇论文就是一个很好的例子，这篇论文显然部分是对达里奥·阿莫迪奥的《有情机器》一文的反应。这一观点在《AI每日简报播客》中有所提及，内森尼尔·惠特默讨论了这一前提及其对未来的影响。更多内容……
“恐慌抛售”可能即将导致比特币价格崩盘
联邦调查局警告——删除你iPhone和Android手机上的这些短信
PayPal诈骗警告——危险的发票绕过了电子邮件安全
爱因斯坦与优秀学生
从历史中我们知道，爱因斯坦在学校表现并不出色。爱因斯坦与优秀学生这位杰出的理论家和数学家难以适应当时的传统教育模式。他似乎并不是一个各方面都优秀的人，沃尔夫认为这其实很常见。“历史上有许多天才在求学期间经历了挣扎，”沃尔夫写道。“爱迪生曾被老师认为反应迟钝。芭芭拉·麦克林托克因为在‘怪异思维’而受到批评，后来却赢得了诺贝尔奖。爱因斯坦首次尝试苏黎世联邦理工学院入学考试时落榜了。这样的例子不胜枚举。”
他认为，认为仅仅通过增加优秀学生的数量就能培养出天才的想法是错误的。沃尔夫用哥白尼的事例来说明，哥白尼提出了地球围绕太阳旋转的观点，这是对当时‘训练数据集’的一种背离。虽然我们现在知道这一点，但在当时这是一个革命性的想法。“要在数据中心创造出一个爱因斯坦，我们不仅需要一个知道所有答案的系统，更需要一个能够提出其他人从未想过或不敢问的问题的系统。”沃尔夫写道。“当所有教科书、专家和常识都建议相反时，它会写下‘如果所有人都错了呢？’。只需考虑狭义相对论带来的疯狂范式转换，以及提出‘假设光速在所有参照系中都是恒定的’这一第一公理所需要的勇气，这违背了当时的常识。”
沃尔夫引用了詹妮弗·杜德纳和埃曼纽尔·夏彭蒂耶有关CRISPR的研究成果，指出跳出框框思考意味着可以将设计的产品用于截然不同的用途。他说，这些罕见的范式转换往往能获得诺贝尔奖。“真正的科学突破不会来自回答已知问题，而是来自提出具有挑战性的新问题，并质疑常见的概念和过去的想法。”沃尔夫补充道，引用了道格拉斯·亚当斯著名‘42’故事的前提，在这个故事中我们知道答案，但不知道问题。“在我看来，这就是为什么LLMs尽管已经拥有全人类的知识，却没有通过连接以前无关的事实生成任何新知识的原因。”沃尔夫写道，称知识为‘无形的现实之网’。“它们目前主要是在做‘流形填充’——填补人类已知知识之间的插值空白。”
另一方面，他认为，一旦它们能够超越这种框框内的思考，未来将是无限的。“我们现在正在创造的是非常顺从的学生，而非颠覆者。”沃尔夫写道。“这对于当前领域的主要目标——创建出色的助手和过度顺从的帮助者来说是完美的。但直到我们找到一种激励它们质疑现有知识并提出可能与过去训练数据相悖的新想法的方法之前，它们还不能给我们带来科学革命。”
学术竞争
休息之后，惠特默分享了自己的亲身经历，讲述了参加学术十项全能竞赛的经历。惠特默透露，经过两年在全国排名前五的竞争后，他追踪了这些学生后续的职业发展路径。“他们共同拥有的唯一一件事就是疯狂的努力意愿。”他说。“但大多数人在后来的大学和职业生涯中，我发现他们都是典型的框内思考者。他们来自那些有良好项目、知道如何培养冠军的学校，所以他们付出了努力，得到了结果……但他们都不是颠覆者，没有创业者，也没有创新者。”
相比之下，他谈到了我们在科技媒体上读到的那种人，那些成为家喻户晓名字的推动者。“他们有一种不安分的精神，充满好奇心，这些品质驱使他们渴望更多，并愿意打破系统规则去追求。”他说。在使用LLMs时，他指出，我们可以挑战这一点。“我们认为今天的LLMs，基本上就像是我们所能想象的最佳学术十项全能选手，阅读了所有的东西，研究了所有的东西，现在可以记住所有的东西并告诉你所有的东西，但却没有创造任何新事物。”他说，自言自语地想知道是否能让神经网络以不同的方式思考。“鉴于我们普遍认为科学成就和科学进步是AI的优势所在，我认为这些问题值得深思熟虑。”
多智能体过程
话虽如此，惠特默也承认我们正处于一个多智能体进程的时代。他谈到了智能体合作如何增强网络能力，以及这在未来的重要性。我个人总是引用马文·明斯基的《心灵社会》，部分是因为他的麻省理工学院背景，但也因为这是一个不断回归的基本前提——即尽管人类大脑非常强大，但它不是一台计算机，而是数百台相互连接的计算机。要真正与人类竞争，人工智能实体也需要多个智能体之间的相同互动和互联。你可以称之为集成学习、网络知识或群体认知。或者你也可以简单地使用“协作”这个总称。最终，真正的AGI可能意味着系统不仅能更好地回答问题，还能提出问题。
(以上内容均由Ai生成)
