AI写作泛滥催生“科学垃圾”

快速阅读: 据《科学》报道，加州大学伯克利分校与康奈尔大学研究发现，AI辅助学术写作显著提升非英语母语者产出效率，但其生成文本语言越复杂反而越难发表，凸显质量评估困境。同时，AI搜索未固化推荐旧文献，未来需强化对研究实质贡献的评审机制。

过去三年，生成式人工智能对社会产生了深远影响，尤其在人类写作领域表现突出。支撑ChatGPT等工具的大语言模型依托海量文本训练，已能自主生成结构复杂、质量较高的内容。然而，其广泛应用也导致所谓“AI垃圾内容”激增——即缺乏人工投入、质量低劣的自动生成文本。

近日，加州大学伯克利分校与康奈尔大学研究人员在《科学》期刊发表研究指出，在学术写作领域，“AI垃圾”正占据上风。研究团队分析了2018至2024年间逾百万篇预印本（尚未经过同行评审的公开论文）摘要，考察AI使用与学术产出效率、稿件质量及文献多样性之间的关联。其中，作者月均预印本数量被用作生产力指标，而最终是否在期刊正式发表则作为质量衡量标准。

研究发现，作者启用AI后，月均发文量显著上升。按不同预印本平台统计，增幅达36.2%至59.8%。非英语母语者受益尤为明显，亚洲作者的增幅高达43%至89.3%；相比之下，来自英语国家、姓名具“高加索特征”的作者增幅较小，为23.7%至46.2%。这表明AI常被用于辅助非母语研究者提升英文写作能力。

但在质量方面，结果令人担忧。尽管AI辅助文章的语言平均更复杂，但此类文章的语言复杂度与发表概率呈负相关——越复杂的AI生成文本反而越难被期刊接收。而非AI撰写的文章中，语言越复杂越容易发表。这一反差暗示，AI可能被用来以华丽辞藻掩盖学术内容的薄弱。

此外，研究还对比了谷歌与微软搜索平台的推荐差异。自2023年2月微软Bing引入AI聊天功能后，其用户接触到的文献来源更多元、更新颖，这得益于其“检索增强生成”技术。因此，关于AI搜索会固化推荐旧有热门文献的担忧并未显现。

当前，AI已深度融入学术写作，尤其成为非母语研究者的重要工具。随着其嵌入文字处理、邮件及办公软件，回避AI使用将日益困难。更关键的是，传统以语言质量判断学术价值的标准正面临挑战。未来亟需发展更可靠的评估机制，强化对研究方法与实质贡献的深度评审。部分学者建议“以AI对抗AI”，例如采用斯坦福大学吴恩达团队近期开发的AI审稿工具，或将成为应对稿件激增与编辑负荷过重的可行路径。

(以上内容均由Ai生成)

引用自：The Conversation网站