书签：AI — “超级智能”还是“思维的幻觉”？
快速阅读: 据《RCR 无线》称，苹果警示AI推理局限，OpenAI展望超级智能，Meta投资布局未来。各巨头视角不同，折射各自商业模式与战略目标。理解这些差异，有助于全面把握AI现状与趋势。
编者按：我习惯在领英（LinkedIn）和X平台上收藏我认为有洞察力且有趣的内容，也在实体书籍、杂志、电影、报纸和唱片中保存类似内容。但我并不习惯于重新回顾这些内容并做任何能让我个人以外的其他人受益的事。这周专栏就是为此做出的努力。苹果（Apple）、OpenAI和Meta都在看同样的东西，但看到的结果却截然不同。这一切意味着什么？有一种奇怪的动态正在塑造人们对人工智能系统的看法；这几乎就像你越深入这个领域，挖掘得越多，就越意识到一群聪明的人和强大的公司都在看同样的东西，但却看到了截然不同的结果。我们都知道这些人通常都很聪明，主要受资本主义成功驱动。在这种背景下，这表明他们如何公开描述人工智能很可能反映了他们私下对人工智能短期产品化的想法，以及他们对人工智能未来愿景的看法。让我们来剖析一下。
本月，一群苹果公司的AI研究人员发表了一篇题为《思考的幻觉：通过问题复杂性的视角理解推理模型的优势与局限》的论文。该团队着眼于前沿的大规模语言模型（LLMs）和大规模推理模型（LRMs），旨在理解这两种模型在处理不同复杂度任务时的表现，以及更根本地，LRMs是如何“思考”的。论文中提到：“我们的研究发现揭示了当前模型的根本局限性：尽管拥有复杂的自我反思机制，这些模型在超过一定复杂度阈值后无法发展出可泛化的推理能力。”
他们发现了“三种不同的推理模式：标准LLMs在低复杂度任务上优于LRMs，LRMs在中等复杂度任务上表现优异，但在高复杂度任务上两者都失效。”论文中还有更多值得阅读的内容，但一个有趣的点是关于LRMs在简单问题上进行“低效的过度思考”，而在复杂问题上却彻底失败。“它们表现出一种反直觉的缩放限制：随着问题复杂度的增加，它们的推理努力先上升到一定程度，然后在有足够标记预算的情况下反而下降……LRMs在精确计算方面存在局限性：它们无法使用显式算法，并在谜题中不一致地推理。”
专注于最终答案背后的推理过程，而不是仅仅检查最终答案的准确性而不考虑过程，苹果观察到LRMs并未真正进行推理，因为更难的问题不一定导致更详细、更耗费标记的推理链。这“尤其令人担忧”。
或许这里值得一提的是两点：苹果智能功能套件中的功能去年推出后在市场上几乎没有留下什么印象——并不是说它必须如此，毕竟公司拥有忠实的用户群——而且苹果是一家很少犯错的公司。
萨姆·阿尔特曼的“温和奇点”
6月10日，OpenAI的首席执行官萨姆·阿尔特曼在其个人博客上阐述了他对当前人工智能的雄心勃勃的愿景，以及它在未来几年的发展方向。“我们最近构建了一些在许多方面比人类更聪明的系统，并能够显著提高使用它们的人的产出。”短语“在许多方面”承担了很多工作，特别是如果你认为推理和思考是不同的但又密切相关的过程，并且如果你相信苹果最近的研究成果。我对AI提高生产力的能力没有异议。至于近期展望，阿尔特曼写道，今年“见证了能够进行真实认知工作的代理人的到来……2026年可能会看到能够发现新见解的系统的出现。2027年可能会看到能够在现实世界中完成任务的机器人。”再次强调，“可能”和“也许”减轻了这些预测的分量。即便如此，阿尔特曼认为：“我们已经过了事件视界；起飞已经开始。人类即将建立数字超级智能，至少到目前为止，它比看起来要正常得多。”
“比看起来要正常得多。”或许这是因为现有工具的能力与那些推销这些工具的人希望人们对其能力的认知之间存在巨大差距。我当然见过一些奇怪的人工智能生成的图像和视频——主要是为了故意挑衅或引起不安的东西——但这些对我产生的影响微乎其微。我想这对大多数甚至关心这一切的人来说也是如此，而大多数人并不关心。
注意到承认存在“严重挑战”是很重要的。其中包括“技术和社会层面的安全问题”，自然还有对齐问题，以及确保超级智能的访问和控制不被集中在“任何人、公司或国家”手中。在避免集中化的背景下，这意味着我们应该密切关注像萨姆·阿尔特曼这样的人、像OpenAI这样的公司，以及像中国、沙特阿拉伯王国和美国这样的国家等。
Meta对此也有话说
介于苹果的实际担忧和阿尔特曼近乎精神上的乐观主义之间的是Meta。本周该公司宣布了一项143亿美元的投资（占49%的股份，但没有投票权的董事会席位）给Scale AI，这家创业公司的“使命是加速人工智能应用的发展”。这是合理的方式，可以调和苹果和OpenAI之间的分歧，因为Meta拥有前沿的Llama模型家族，既希望推动人工智能整体发展，又希望通过将其嵌入硬件和平台中实现具体变现。
作为交易的一部分，Scale AI首席执行官亚历山大·王将加入Meta。Meta的一位发言人告诉路透社：“我们将深化我们共同生产用于AI模型的数据的工作……王将加入Meta，致力于我们的超级智能努力。”这个词又出现了。这次最新的收购和努力，据报道由王领导一个“超级智能”实验室，紧随Meta将其AI组织重组为产品部门和通用人工智能基础部门之后。目前还不清楚所有这些小组如何互动，但显然Meta首席执行官马克·扎克伯格对提升公司的AI能力有着深深的承诺。
Meta——这只是我的观点——并不认为通用人工智能或超级智能，或者无论你想怎么称呼这个相对模糊的概念，会立即出现。苹果也不这么认为。阿尔特曼可能这么认为。但对于Meta来说，投身于“超级智能”可能是有利的。它让公司在专注于基础设施、模型和产品整合的增量改进的同时，树立起前瞻性的形象。我读到的这一点更少涉及认识论，更多是品牌建设。
总结一下：在过去几周里，苹果发表了一篇警告称，当今最先进的推理模型并没有真正推理。阿尔特曼则宣告了“超级智能”即将来临。而Meta花费了140亿美元以确保自己不会被排除在当前或未来的叙述之外。
但回到之前的问题——这一切意味着什么？
这意味着这些公司所看到和所说的话，充分体现了他们的商业模式和信念。苹果构建的是基于信任和可靠性的封闭生态系统。人工智能的不可预测性与之不符。OpenAI构建的是依赖数据、兴奋感、害怕错过（FOMO）和金钱的前沿模型。大量的金钱。Meta处于两者之间。它不需要第一个，但扎克伯格肯定不会是最后一个。他们都在看同样的东西，但描述的方式却不尽相同。
如果你的目标是了解我们今天在人工智能方面的现状，这是一个微妙但重要的事情需要认识到。为了对人工智能基础设施的“如何”和“为什么”进行全面分析，包括2025年的超大规模资本支出指导、边缘人工智能的兴起、向通用人工智能的推动等，请下载我的报告《人工智能基础设施——绘制下一波经济革命的地图》。
我现在还有一份报告，名为《人工智能权力博弈》。它全部关于扩展人工智能不仅关乎兆瓦和服务器，还关乎时间线的对齐、建立信任和协调生态系统。
(以上内容均由Ai生成)
