报告称，俄罗斯的宣传正在通过流行的 AI 聊天机器人进行传播

快速阅读: 《CBS 奥斯汀》消息，据《新闻卫士》报告，多个流行的人工智能聊天机器人被发现传播俄罗斯的虚假信息。这些机器人约有三分之一的时间重复错误的俄罗斯宣传内容，部分聊天机器人甚至直接引用了俄罗斯宣传媒体的文章。专家警告，这显示了俄罗斯利用聊天机器人传播其叙事的策略，提醒人们需警惕人工智能系统的可靠性。

保存故事分享主题：俄罗斯宣传人工智能聊天机器人虚假信息

新闻卫士今日俄罗斯误导信息美国阳光计划模型输出

据《新闻卫士》的新报告，流行的人工智能聊天机器人正被大量灌输俄罗斯的宣传内容，其中许多错误信息被传递给了寻求人工智能系统解答的不知情的美国人。《新闻卫士》，一个在线虚假信息监督机构，审查了来自OpenAI、X公司、微软、谷歌、Meta等公司的10个领先的生成式人工智能工具。

根据《新闻卫士》的报告，这些聊天机器人有三分之一的时间重复了错误的俄罗斯宣传内容。聊天机器人大约有18%的时间未给出回应，而大约48%的时间则揭穿了这些错误的叙述。一些聊天机器人甚至直接引用了来自俄罗斯宣传媒体的文章。

《新闻卫士》表示，这种虚假信息是由一个名为“今日俄罗斯”的莫斯科网络推动的，该网络在俄罗斯入侵乌克兰后不久成立。自那以后，该网络扩展到了150个不同语言的域名，这些域名聚集了来自俄罗斯国家媒体、亲克里姆林宫的影响者和俄罗斯政府官员的内容。“今日俄罗斯”每年发布360万篇文章，根据美国阳光计划的数据，该组织上个月发布了一份关于俄罗斯宣传网络的类似报告。

美国阳光计划表示，这个俄罗斯网络正在“操纵”人工智能聊天机器人来传播他们的叙事。“我们有时会称之为数据污染，”普渡大学治理与负责任人工智能实验室的政策科学家兼联合主任丹尼尔·希夫说。希夫表示，俄罗斯特工试图通过几乎不受监管的聊天机器人来洗白虚假信息和亲俄叙事。“这并不令人惊讶，但确实令人担忧。”

希夫表示，《新闻卫士》的报告“应该对我们发出重大警告”。希夫说，人工智能系统在简单和复杂的方式下都很容易被愚弄。聊天机器人从互联网上的各种来源抓取信息，包括未经验证的来源。“至少好的（人工智能）公司正在努力消除那些未经充分验证的数据。但这非常难以做到。”他说，“他们可能并没有投入太多精力。因此，通过大量散布虚假信息并故意将其发送到人工智能模型更有可能访问的渠道，他们绝对可以改变模型的训练方式、调整模型权重，并最终影响模型的输出结果。”

希夫表示，目前缺乏足够的保障措施，如法规或经过良好验证的技术机制。他还表示，美国人有时对人工智能聊天机器人的回答过于信任。“关于美国人对人工智能的信任存在矛盾证据，但我认为有足够的证据表明过度依赖，我在每学期的学生中都能看到这一点。”

人们可能知道生成式人工智能系统容易产生错误信息。人们可能知道他们应该用已知的、可靠的来源来核实人工智能的回答。但人工智能聊天机器人的回答可能极具说服力。希夫警告说，无论人工智能的回答多么条理清晰，它并不一定是正确的。虚假信息运动可能需要时间才能影响公众，但它们确实有效。

(以上内容均由Ai生成)