新报告称，新闻业中的 AI 是记者和受众的信任问题

快速阅读: 《EurActiv.com》消息，一项由RMIT大学主导的研究指出，AI在新闻业的应用引发担忧。仅25%的新闻消费者确认接触过AI生成内容，但50%表示不确定，显示新闻机构在此方面的透明度不足。报告强调了AI偏见和透明度问题，以及AI生成内容可能带来的误导。记者和受众认为透明度至关重要，但目前新闻室关于AI使用的政策尚不统一。该研究呼吁提高透明度和道德标准，以增强公众对AI在新闻中作用的信任。

这篇文章是我们特别报道的一部分。人工智能创新的阴暗面正在加剧虚假信息的传播并损害民主。记者和新闻读者对在新闻中使用生成式人工智能（AI）表示担忧。一份新报告揭示了AI生成内容对新闻生产和信任的影响。这项研究由RMIT大学主导，总结了三年来七个不同国家的研究，关注AI生成内容、记者如何使用AI以及受众的看法。虽然只有百分之二十五的新闻消费者确信自己接触过AI生成的内容，但大约百分之五十的人表示不确定，这表明新闻机构可能没有明确说明其使用AI的情况。报告指出了新闻业中众多AI应用，观众通常更接受AI用于幕后任务，如转录和创意生成，而不是编辑或内容创作。偏见与透明度其他关键发现指出了AI中存在的多种偏见，包括性别、阶层和环境偏见，这些偏见源自训练数据和算法设计。AI模型通常不够透明，使记者难以验证信息。相比AI替代摄影记者，AI生成的插图更易被接受，但仍有关于误导性内容、劳动力影响和新闻室政策的担忧。许多记者难以识别AI生成的材料，而新闻室关于AI使用的政策仍不统一或模糊不清。其他关键发现指出了AI中存在的多种偏见，包括性别、阶层和环境偏见，这些偏见源自训练数据和算法设计。AI模型通常不够透明，使记者难以验证信息。记者和受众都认同透明度的重要性，受众更喜欢清楚标明AI生成的内容。日常生活中对AI工具的熟悉通常会导致对其在新闻中使用更大的接受度。重大风险AI在新闻中的风险是重大的。AI生成的图片、标题和摘要可能包含错误或误导性信息。报告引用了AI生成的新闻警报导致虚假报道的例子。此外，AI生成的内容可能被误认为真实事件，正如一个AI生成的威廉王子和哈里王子拥抱的照片在网上疯传后被记者揭穿一样。观众对AI在新闻中的舒适度因任务不同而异。人们普遍更接受AI用于丰富现有内容，例如生成信息图表图标或动画历史图像，但对AI生成的新闻播报虚拟人物感到不安。最终，对AI在新闻中作用的信任取决于透明度、道德考虑以及确保AI工具补充而非取代人类判断。审慎乐观路透社基金会的新报告还发现，发展中国家和地区的记者对AI对新闻的影响持审慎乐观态度。尽管AI正在改变新闻生产、分发和消费方式，其采用和可及性在全球范围内存在差异。这份名为《AI时代的新闻：发展中国家和地区的机遇与挑战》的报告基于对七十个国家超过二百名记者的调查，该调查于二〇二四年十月至十一月进行。调查显示，超过百分之八十的受访者使用AI进行各种任务，其中百分之四十二对AI的未来作用表示乐观。然而，超过一半的人表达了强烈的伦理担忧。挑战包括培训不足、数字获取不均、担心失去以人为本的技能以及缺乏透明度——这一点通过仅有百分之十三的记者报告其雇主制定了AI政策的事实得以体现。

(以上内容均由Ai生成)