AI虚构内容让图书馆员应接不暇
发布时间：2025年12月13日
来源：szf
快速阅读: 据红十字国际委员会消息，该机构警告生成式人工智能在历史资料缺失时仍会编造看似合理的内容，可能误导用户、损害历史真相准确性，尤其在法律与人道行动领域风险突出，呼吁使用时须辅以人工核查和权威验证。
红十字国际委员会（ICRC）本月早些时候在一份公开声明中警告，生成式人工智能工具存在特定风险：即使历史资料不完整或完全缺失，这类工具仍会生成答案。由于其设计旨在持续产出内容，它们无法表明“无相关信息可查”，反而可能编造看似合理、实则毫无档案依据的细节。
该机构指出，这种特性在涉及历史事实或人道行动记录的场景中尤为危险。其所“填补”的信息虽具表面可信度，却可能误导用户，损害对历史真相的准确理解。此外，若此类技术被用于法律、学术或政策制定领域，潜在风险将进一步放大。
目前，ICRC呼吁相关方在使用生成式人工智能处理历史或敏感信息时保持高度审慎，并建议结合人工核查与权威资料验证，以确保信息的真实性和可靠性。
(以上内容均由Ai生成)
