快速阅读: 据公开信息显示，AI生成内容激增正引发网络信息信任危机。专家警告，低质“AI垃圾”正在稀释信息生态、冲击媒体公信力，并呼吁加强来源标注与提升公众信息素养以重建信任。
人工智能生成内容激增引发信息信任危机
近年来，随着大语言模型和生成式人工智能工具的普及，网络上由AI创作的低质量内容——即所谓“AI垃圾内容”——正迅速蔓延。这类内容涵盖文章、图像、视频及社交媒体帖子，多以吸引点击、提升搜索引擎排名或迎合社交平台算法为目的，导致整体信息质量持续下滑。
康涅狄格州昆尼皮亚克大学教学与技术创新助理教务长亚当·内默罗夫指出，当前内容生产过度聚焦于流量变现和注意力经济，大量AI生成内容因此涌入信息空间。2024年11月，SEO公司Graphite报告显示，AI生成文章数量已超过人工撰写文章。尽管谷歌搜索结果中86%的高排名内容仍由人类创作，但AI内容占比正快速上升。此外，YouTube增长最快的频道中，十分之一完全依赖AI生成内容。
这一趋势已对创作者生态造成冲击。知名科幻杂志《克拉克世界》因不堪AI投稿泛滥，被迫暂停接收新稿件；维基百科也面临AI内容涌入，加重社区审核负担，威胁其作为可靠信息源的地位。
更值得警惕的是，随着生成式AI在图像、视频和文本方面日益逼真，公众对网络信息的信任度持续下降。内默罗夫提醒，人们应默认内容可能由AI生成，并主动验证其真实性。他同时呼吁公众支持具备明确编辑准则的媒体和创作者，通过付费订阅等方式维护高质量信息生态。
专家强调，在注意力经济驱动下，若不加以规范，AI生成内容不仅稀释信息价值，还可能引发“真实反被疑为假”的信任倒挂现象，尤其危及新闻媒体等关键信息渠道的公信力。
人工智能技术的快速发展正深刻改变人们获取和使用网络信息的方式。一方面，AI生成内容日益逼真，部分信息需具备一定辨识能力才能判断真伪；另一方面，网络开放性本就容易导致错误信息传播，无论出于无意或蓄意，公众始终需保持审慎态度，交叉验证信息来源。
信息素养历来是网络使用的核心能力，如今在AI内容与虚假信息交织的环境下更显重要。例如，飓风“海伦”灾后一张AI生成的“流浪儿童与小狗”图片虽被迅速识别为伪造，仍引发广泛情绪反应，凸显虚假内容即便明显失真，也可能被用于政治目的或争夺用户注意力。
有研究者形容，某些AI内容比现实更鲜艳、响亮、吸引眼球，如同“塞壬之声”，使用户沉溺于算法构建的虚拟互动，远离复杂却真实的人际交流。更令人担忧的是，未来AI可能大量依赖其他AI生成的合成内容进行训练，进一步脱离现实根基。
此类低质AI内容被喻为“数字塑料污染”，不仅堵塞信息生态，还加剧公众对真实性的疲惫感。信任正成为网络空间最稀缺的资源。但挑战中亦存转机：人们对人工创作、可验证内容的需求可能上升，“手工制作式”的优质内容或通过水印、付费墙、私密社群等方式获得新发展空间。
当前，AI已深度融入日常网络行为。从手机内置智能助手到邮件润色、图像编辑，生成式AI无处不在。搜索引擎亦在变革——谷歌等平台优先展示AI汇总摘要，传统网页链接退居其次。专家表示，这是继网址和关键词搜索之后，信息获取方式的首次重大转向。越来越多用户通过聊天机器人或AI代理浏览器完成查询，原有信息检索逻辑正在重构。
面对这一趋势，公众需减少盲目浏览，增强信息筛选意识。消费习惯的转变，或将推动整个网络内容生态向更健康、更有营养的方向演进。
人工智能正深刻重塑互联网的使用方式与信息生态。据专家沃森指出，当前网络正从“为人眼设计”转向“为AI智能体设计”。用户未来或将不再亲自浏览网页预订机票或查阅商品评价，而是由个人AI代理代为协商或汇总信息，使网络逐渐演变为机器可读的数据库。
这一转变带来双重影响。其一，人类直接访问新闻、科普类网站的流量可能大幅减少。AI代理直接抓取所需内容，导致用户无法接触广告，动摇依赖广告收入的网站运营模式。部分出版方或被迫设置付费墙，甚至屏蔽AI爬虫，进一步割裂信息生态。在本已不稳定的在线媒体环境中，一些网站恐难以为继，可信信源随之缩减。
其二，AI代理可能大量检索并学习由其他AI生成的内容。随着网络充斥“AI合成信息”，后续模型若以此为训练数据，将导致信息质量下降、脱离现实。这种“机器对机器”的交互模式，被形容为“僵尸末日”而非“鬼城”，凸显系统性风险。
社会层面亦存隐忧。沃森警示，若AI始终迎合用户、永不冲突，真实人际关系反显疲惫，人们或将放弃自主甄别真伪，转而依赖少数AI“策展人”，从而集中信息权力，削弱批判性思维。
对此，专家内默罗夫呼吁借鉴社交媒体发展初期的经验教训，强调需建立持续有效的监管机制。尽管AI工具可能挖掘深层信息、突破传统搜索引擎局限，但其发展方向终将取决于人类如何回应。未来，标注内容来源、提升可信度标识或成重建信任的关键路径。
(以上内容均由Ai生成)
引用自：Live Science网站
