AI 让我们变得更愚蠢了吗？也许，根据世界上最大的 AI 公司之一的说法

快速阅读: 《澳大利亚商业新闻》消息，依赖生成式AI（如ChatGPT）可能会减少人们的批判性思考，尤其是在高风险环境中。研究表明，频繁使用AI工具与较低的批判性思维能力呈负相关。然而，批判性思考不仅仅是执行认知技能，还需关注真理。为了保持批判性思维，人们应主动识别和挑战假设，并与他人合作检验想法。生成式AI可以辅助这一过程，但不应完全取代个人的思考。

通过依赖这些设备使我们的生活更轻松，我们是在让自己变得更聪明还是更愚蠢？作为人类，我们是否以牺牲效率为代价，逐渐变得愚蠢？这个问题在考虑生成式人工智能（AI）技术时尤为重要，例如由科技公司开放人工智能（OpenAI）拥有的AI聊天机器人ChatGPT。截至撰写本文时，每周有三亿人使用它。根据美国微软公司和卡耐基梅隆大学研究团队最近发表的一篇论文，答案可能是肯定的。但故事远不止于此。

良好思考研究人员评估了用户如何看待生成式AI对其批判性思维的影响。一般来说，批判性思维与良好思考有关。我们通过将自己的思考过程中的判断与已建立的良好推理规范和方法进行对比来实现这一点。这些规范包括准确性、清晰度、精确性、广度、深度、相关性、重要性以及论点的说服力等价值。影响思考质量的其他因素包括现有世界观的影响、认知偏见以及对不完整或不准确的心理模型的依赖。

近期研究的作者采用了美国教育心理学家本杰明·布鲁姆及其同事在1956年提出的一个定义。这实际上不是一个定义，而是一种将认知技能分层分类的方式。它假设存在一个认知技能层次结构，在这个结构中所谓的“高阶”技能建立在“低阶”技能之上。这在逻辑上或基于证据上是站不住脚的。决定思考复杂性的更多是情境，而不是认知本身。例如，评价通常被视为一种总结性或高阶的过程，但在某些情况下可以是探究的开始或非常容易执行。

在研究中使用这种分类的一个问题是，许多生成式AI产品似乎也用它来指导它们的输出。因此，你可以将这项研究解读为测试生成式AI的设计是否有效地引导用户思考批判性思维。布鲁姆的分类学中还缺少批判性思维的一个基本方面：批判性思考者不仅执行这些和其他认知技能，而且执行得很好。他们这样做是因为他们对真理有着总体上的关注，这是AI系统所没有的。

对AI更高的信心等于较少的批判性思考。今年早些时候发表的研究揭示了“频繁使用AI工具与批判性思维能力之间存在显著负相关”。这项新研究进一步探讨了这一观点。它调查了319名知识工作者，如医疗从业者、教师和工程师，他们在使用生成式AI帮助下讨论了936项任务。有趣的是，研究发现用户认为自己在执行任务时使用批判性思维较少，而在验证和编辑阶段提供监督时使用得更多。在高风险工作环境中，希望产出高质量工作并害怕报复会成为用户在审查AI输出时的强大动力。但总体而言，参与者认为效率的提高远远抵消了提供此类监督所付出的努力。

研究发现，对AI更有信心的人通常表现出较少的批判性思考，而对自己更有信心的人则倾向于表现出更多的批判性思考。这表明，只要一开始就具备批判性思维，生成式AI并不会损害你的批判性思维。问题在于，这项研究过于依赖自我报告，这可能受到各种偏差和解释问题的影响。撇开这一点，用户将批判性思维定义为“设定明确目标、优化提示并评估生成内容以满足特定标准和要求”。这里的“标准和要求”更多是指任务的目的，而不是批判性思维的目的。例如，如果输出“符合他们的查询”，并且“生成的产品在工作中是功能性的”，那么它就达到了标准。这就提出了一个问题：这项研究是否真的在测量批判性思维。

成为批判性思考者。这项新研究隐含的观点是，在监督阶段进行批判性思考至少比无反思地过度依赖生成式AI更好。作者建议生成式AI开发者添加一些触发用户批判性监督的功能。但这足够吗？在使用AI之前和期间的每个阶段都需要批判性思考——当提出需要测试的问题和假设时，以及在检查输出是否存在偏见和准确性时。唯一确保生成式AI不会损害你批判性思维的方法是在使用它之前成为一个批判性思考者。成为批判性思考者需要识别和挑战声明背后的未言明假设，并评估不同的视角。还需要练习系统的和方法论的推理，并与他人合作检验你的想法和思考。

粉笔和黑板让我们在数学上更出色。生成式AI能否帮助我们在批判性思考上更出色？也许——如果我们小心的话，我们可以利用生成式AI来挑战自己并增强我们的批判性思考。但与此同时，我们总是可以采取一些步骤来提高我们的批判性思考，而不是让AI为我们思考。

黛博拉·布朗，哲学教授，昆士兰大学批判性思维项目主任，昆士兰大学。彼得·埃利顿，哲学和教育高级讲师；UQ批判性思维项目课程主任，昆士兰大学。本文由《对话》杂志重新发布，采用创作共用许可协议。阅读原文。

(以上内容均由Ai生成)