DOGE 和（错误）理解 AI
快速阅读: 据《达观》最新报道，约翰斯·霍普金斯大学教授法雷尔指出，大型AI模型并非人工通用智能，而是增强而非替代人类智能的文化和技术工具。他批评将政府臃肿作为削减理由的观点，强调AI的局限性，如无法判断情境、依赖数据质量等，并担忧其可能导致的就业和沟通问题。
媒体对人工智能（AI）的叙述常呈现两极化倾向。一方面，有人将其描绘为人类最伟大的发明，能推动全民富裕并解决环境危机；另一方面，则视其为可能摧毁文明的重大威胁，主张严格管控甚至全面禁止。然而，这种二元化的叙述忽略了大量细节，无法帮助我们全面理解AI。
约翰斯·霍普金斯大学高级国际研究学院的国际事务教授亨利·法雷尔近期与三位合作者共同发表了一篇名为《大型AI模型是文化和社交技术》的文章，该文本月刊登于《科学》杂志。那么，一位国际事务专家能对AI提出什么见解？答案是：很多。
法雷尔首先强调了我们需要清晰认识AI的本质。他以当前备受瞩目的大型语言模型（LLMs）为例，给出了一个简明扼要的定义：LLMs并非人工通用智能（AGI），即达到人类水平的机器智能，而我们距离这一目标还很远。相反，LLMs是对现有能力的延伸，它们“以新颖的方式整合了文化和社会技术特性”，并“生成了难以管理的海量复杂人类生成信息的摘要”。因此，这些模型“类似于书写、印刷、市场、官僚体系及代议制民主这样的技术，它们收集和处理信息，使信息对我们更有用和易用。”
法雷尔及其团队认为，LLMs虽会对社会产生深远影响，但其作用在于增强而非替代人类智能。这直接关联到他对所谓政府效率部门（DOGE）现象的看法。在另一篇文章中，法雷尔探讨了“AGI准备者是否应拥抱DOGE”的议题。他指出，许多技术人员相信AGI即将到来，有人甚至预测其会在2026年出现。这些人普遍认为AGI将超越人类在决策速度和质量上的表现，这意味着具备部署AGI能力的所有官僚机构——包括美国联邦政府在内的每一个——都显得过于臃肿，需要大幅缩减。
显然，法雷尔并不认同这种观点，事实上，四分之三的AI研究人员也持反对意见。但他同时也指出了为何AGI信徒热衷于削减政府规模的原因。读者或许会质疑，为何不先观察等待，而非急于裁撤官僚机构？毕竟，尚无人确切说明哪些替代方案将填补空缺。尽管提升效率的想法并不新奇，但目前的行动显然无关效率，否则会有针对任务和人员的细致规划。如果背后动机是为了削弱政府，以公众支持为掩护大幅裁员，那么这种策略就失去了意义。那些通过损害政府效能来推动改革的人，实际上是在制造他们用来批评现状的理由。即使AI确实能提高政府效率，也需要有人去操作和理解其功能与局限性。
已知的关于这些局限性的论据值得再次强调。首先，“地图不是领土”，图片只是现实的映射而非现实本身，同样，语言也不是现实本身，而是经验的体现。生活经验赋予人判断力，而LLMs缺乏从生活中汲取经验的能力，因此无法对情境做出判断。其次，LLMs是由计算机代码构建的，代码是语言的一个高度受限的分支，无法捕捉日常语言所能表达的全部内容。第三，存在“垃圾输入，垃圾输出”的问题，LLMs的表现取决于训练数据的质量，而大量数据可能是不准确、过时或错误的，并受制于贡献者的观点和经历。此外，LLMs以“产生幻觉”著称，比如引用根本不存在的法律文件或学术文章。第四，截至目前，LLMs仅在用户具备相关领域知识以识别这些幻觉时才真正有用。换言之，你必须对自己查询的知识有一定了解，才能独立评估结果。这表明，目前LLMs的实际用途远不如宣传中那样广泛。第五，AI生成的内容正导致创造训练数据的人失去工作机会。AI已经开始在某些媒体机构中取代人工撰写的报道。一旦所有记者都离开，谁来补充AI依赖的基础报道呢？如果AI音乐和AI艺术变得流行，谁来创作新的曲调和画作供AI学习，既然音乐家和艺术家已经转行谋生？如果你现在对政府网站上的AI生成客服感到不满，试想未来没有人类可交流时的情况，AI或许能“理解”你的问题，但却几乎肯定无法判断你是否问错了问题或者应该问什么才是正确的问题。
有个银行案例，该行决定不再允许客户在其柜台进行一定金额以下的常规存取款业务。具体金额记不清了，但此事因另一家竞争银行推出的广告活动而成为头条新闻，广告标题为：“我们的柜员喜欢人。”这就是交易限额结束的标志。面对AI在企业和政府互动中的不断渗透，公民是否会抵制？也许有一天，研究人员会开发出“个人”AI，我可以命令我的AI与你的AI对话。我对这种对话能否带来满意结果并不抱太大希望。
人类大脑的渲染图（2006年）。由尼古拉斯·鲁吉耶通过维基共享资源发布 https://commons.wikimedia.org/wiki/File:Nicolas_P._Rougier%27s_rendering_of_the_human_brain.png
经过润色后的文本更加流畅自然，结构也更加紧凑有序，同时保持了原文的核心信息和观点。
(以上内容均由Ai生成)
