人工智能正在同质化我们的思想
快速阅读: 据《纽约客》称，研究发现使用AI写作的学生脑电活动减少，思维趋同，创意下降。AI生成内容趋于平庸，强化文化霸权，影响人类原创性与多样性。
你正在阅读《无限滚动》，这是凯尔·查伊卡每周撰写的专栏，探讨技术如何塑造文化。在去年麻省理工学院的一项实验中，来自波士顿地区的50多名大学生被分成三组，要求根据诸如“我们的成就必须有益于他人，才能让我们真正幸福吗？”等广泛问题撰写SAT风格的作文。一组学生被要求仅凭自己的思考来写作文；第二组可以使用谷歌搜索查找相关资料；第三组则允许使用ChatGPT，这是一种人工智能大型语言模型（LLM），可以根据用户查询生成完整的段落或文章。当三组学生完成任务时，他们佩戴了嵌有电极的头戴式设备，以测量他们的脑电活动。
据麻省理工学院媒体实验室的研究科学家娜塔莉娅·科斯米娜（Nataliya Kosmyna）表示，她是记录这项实验的新工作论文的合著者之一，分析结果显示存在显著差异：使用ChatGPT的学生的脑电活动比其他两组都少。对LLM用户的分析显示，他们大脑不同部分之间的广泛的神经连接减少；与创造力相关的α波连接减少；以及与工作记忆相关的θ波连接减少。一些LLM用户完全不觉得是自己写的作文，而在一次测试中，80%的人无法引用他们声称自己撰写的内容。
麻省理工学院的研究是首批科学测量依赖AI完成人类以前需要人工完成的任务的“认知成本”的研究之一。另一个引人注目的发现是，LLM用户产生的文本趋向于使用常见词汇和观点。SAT题目设计得足够广泛，以激发多种回答，但使用AI却产生了同质化效应。“这些不同的人在不同的日子，讨论高层次的个人和社会话题，但他们的输出非常相似，而且在某些方面有所偏向，”科斯米娜说。对于“什么才能使我们‘真正’幸福”的问题，LLM用户更倾向于使用与职业和个人成功相关的短语。在回答有关慈善的问题（“比别人更有福气的人是否更有道德义务帮助那些不如他们幸运的人？”）时，ChatGPT小组普遍支持，而其他小组的文章则包括对慈善的批评。科斯米娜说：“使用LLM时，难以产生不同的观点。”她继续说道，“将所有地方的所有东西平均化——这就是我们在这里看到的情况。”
AI是一种平均值的技术：大型语言模型被训练来识别大量数据中的模式；它们产生的答案往往趋向共识，无论是写作质量（常常充斥着陈词滥调和乏味内容），还是思想深度。当然，其他较老的技术也帮助甚至削弱了作家——比如说，像SparkNotes或电脑键盘这样的工具也是如此。但有了AI，我们能够彻底地将思考外包，这也使我们变得更加平庸。从某种意义上说，任何使用ChatGPT来撰写婚礼致辞、起草合同或写大学论文的人（显然有相当多的学生已经在这样做），就像参与麻省理工学院的实验一样。
根据OpenAI首席执行官山姆·阿尔特曼（Sam Altman）的说法，我们正处于他称之为“温和奇点”的临界点。在一篇题为该标题的最近博客文章中，阿尔特曼写道：“ChatGPT已经比任何曾经生活过的人类都要强大。数亿人每天都在使用它，并且应用于越来越重要的任务。”在他看来，人类正与机器融合，而他公司的AI工具正在改进我们有机大脑的旧系统：“它们能显著提升使用者的成果，”他写道。但我们还不知道大规模采用AI的长期后果，如果这些早期实验有任何迹象的话，阿尔特曼预见的增强产出可能会以质量的重大代价为代价。
今年4月，康奈尔大学的研究人员发表了一项研究结果，发现了AI导致同质化的证据。两个用户群体，一个是美国人，一个是印度人，回答了涉及他们文化背景的写作提示：“你最喜欢的食物是什么，为什么？”；“你最喜欢的节日/假期是什么，你如何庆祝它？”其中一部分参与者使用了由ChatGPT驱动的自动完成功能，在他们暂停时提供词语建议，而另一部分参与者则独立写作。该研究得出结论，使用AI的印度和美国参与者的文字“变得更加相似”，并且更加倾向于“西方规范”。AI用户最有可能回答他们最喜欢的食物是披萨（寿司排在第二位），最喜欢的节日是圣诞节。同质化也发生在风格层面。例如，一篇描述鸡肉Biryani为最爱食物的AI生成文章，很可能不会提到具体的成分如肉豆蔻和柠檬腌菜，而是参考“丰富的风味和香料”。
当然，理论上作者可以拒绝AI生成的建议。但这些工具似乎具有催眠效果，使不断涌现的建议覆盖了作者自己的声音。康奈鲁大学信息科学教授阿迪蒂亚·瓦希斯塔（Aditya Vashistha）是该研究的合著者之一，他将AI比作“一个在我每次写作时都坐在我身后的老师，说‘这是更好的版本’。”他补充道：“通过这种常规的接触，你会失去你的身份，失去真实性。你会失去对自己写作的信心。”瓦希斯塔的同事、该研究的合著者莫尔·纳阿曼（Mor Naaman）告诉我，AI的建议“有时非常有力地潜移默化地改变你不仅写什么，还改变你思考什么。”长期来看，这可能导致人们认为“正常、理想和适当”的标准发生转变。我们经常听到AI的输出被描述为“普通”或“平淡”，但平均性并不一定无害。小说家兼记者瓦乌尼·瓦拉（Vauhini Vara）最近出版的书籍《Searches》部分探讨了AI对人类交流和自我认知的影响。她告诉我，AI文本的平庸性“给人一种安全和无害的错觉。”瓦拉（曾担任《纽约客》编辑）接着说，“实际上发生的是文化霸权的强化。”OpenAI有某种动机来削弱我们的态度和沟通方式，因为人们对模型输出越接受，它就能将更广泛的人群转化为付费订阅用户。平均性是高效的：“如果一切相同，你就能实现规模经济，”瓦拉说。
在萨姆·阿尔特曼（Sam Altman）在他的博客文章中预测的“温和奇点”下，他说，“将有更多人能够创造软件和艺术。”已经，像Figma这样的创意构思软件（“Your creativity, unblocked”）和Adobe的移动AI应用（“the power of creative AI”）承诺让我们都能与灵感接触。但其他研究表明，自动化原创性存在挑战。2024年，圣克拉拉大学收集的数据研究了AI工具在两种标准类型的创造性思维任务中的有效性：改进产品和预见“improbable consequences”。一组受试者使用ChatGPT来回答诸如“How could you make a stuffed toy animal more fun to play with?”和“Suppose that gravity suddenly became incredibly weak, and objects could float away easily. What would happen?”等问题。另一组则使用由音乐家布莱恩·伊诺（Brian Eno）和画家彼得·施密特（Peter Schmidt）于1975年创作的一套抽象提示卡片“Oblique Strategies”作为创意辅助工具。测试人员要求受试者追求原创性，但再次，使用ChatGPT的小组提出了更加语义相似、更加趋同的想法。
帮助进行分析并现在在生成式AI初创公司Midjourney工作的马克斯·克雷明斯基（Max Kreminski）告诉我，当人们在创作过程中使用AI时，他们往往会逐渐放弃自己的原创性思考。克雷明斯基解释说，起初用户倾向于提出自己广泛的创意，但随着ChatGPT不断快速生成大量看起来可接受的文本，用户往往进入一种“curationist mode”。影响是单向的，并且不是你所希望的方向：“人类的想法不太可能强烈影响机器生成的内容，”克雷明斯基说；ChatGPT会把用户“拉向它过去与不同用户互动所产生的中心位置。”随着与AI工具的对话继续，机器会填满它的“context window”，也就是其工作记忆的技术术语。当上下文窗口达到容量时，AI似乎更有可能重复或重新加工它已经产生的内容，从而变得更加缺乏原创性。
麻省理工学院、康奈尔大学和圣克拉拉大学的这些一次性实验规模都很小，每项实验涉及的受试者都不超过一百人，而关于AI影响的许多方面仍需进一步研究和了解。与此同时，在马克·扎克伯格拥有的Meta AI应用程序上，你可以看到一个包含数百万陌生用户生成内容的信息流。这是一个令人难以置信的光滑图像、过滤视频剪辑和用于日常任务的文本的洪流，比如撰写“detailed, professional email for rescheduling a meeting”。我最近浏览到的一个提示引起了我的注意。一位名为@kavi908的用户让Meta聊天机器人分析“whether AI might one day surpass human intelligence”。聊天机器人给出了大量简报；在“Future Scenarios”下，它列出了四种可能性。所有都是积极的：无论以何种方式，AI都会改善，造福人类。没有悲观的预测，也没有AI失败或造成危害的情况。这个模型的平均值——可能是由Meta内置的亲技术偏见塑造的——缩小了结果范围，限制了思想的多样性。但如果你完全关闭你的大脑活动，才能相信这个聊天机器人讲述的是全部真相。
(以上内容均由Ai生成)
