Grok 在事实核查以色列-伊朗战争中显示出“缺陷”：研究

快速阅读: 据《今天的 RTL》最新报道，研究指出，马斯克的AI聊天机器人Grok在核实以色列-伊朗冲突事实时给出错误且矛盾的回答，引发对其可靠性质疑。AI在危机信息验证中存在缺陷，易传播虚假信息。

Research shows that Elon Musk’s AI chatbot Grok provided inaccurate and contradictory answers when verifying facts about the Israel-Iran conflict, raising doubts about its reliability. AI struggles with verifying crisis information and can spread misinformation.

埃隆·马斯克的AI聊天机器人Grok在用户试图核实以色列-伊朗冲突事实时，给出了不准确且矛盾的回答，一项研究周二指出，这引发了对其作为辟谣工具可靠性的新质疑。随着科技平台减少对人工事实核查员的依赖，用户越来越多地利用AI驱动的聊天机器人——包括xAI的Grok——来寻找可靠信息，但它们的回答往往本身也容易导致错误信息。

来自美国智库大西洋理事会数字取证研究实验室（DFRLab）的研究指出：“对Grok在以色列-伊朗冲突最初几天表现的调查揭示了该AI聊天机器人在危机时期提供准确、可靠和一致信息方面存在重大缺陷和局限性。”“Grok在验证已确认的事实、分析虚假图像以及避免未经证实的言论方面存在困难。”

DFRLab分析了X平台上的约13万个不同语言的帖子，发现Grok在“验证AI生成媒体方面存在困难”。研究发现，在伊朗对以色列进行报复性打击后，Grok对有关一个在X平台上获得数百万次观看的AI生成的机场被摧毁视频的相似提问给出了截然不同的回答。研究称，Grok在否认机场被摧毁和确认其遭到袭击之间来回摇摆，有时甚至在同一分钟内反复切换。

在一些回答中，Grok将也门反叛者发射的导弹作为损坏的来源。在其他回答中，它错误地将AI生成的机场识别为贝鲁特、加沙或德黑兰的机场。当用户分享另一段AI生成的视频，显示据称伊朗对特拉维夫的袭击后建筑物倒塌时，Grok回应称该视频看起来真实，研究称。

这场导致美国周末对德黑兰核计划发动空袭的以色列-伊朗冲突，产生了大量在线虚假信息，包括AI生成的视频和从其他冲突中重新使用的战争画面。AI聊天机器人也助长了虚假信息的传播。

随着以色列-伊朗战争的加剧，社交媒体上流传着虚假说法，称中国向德黑兰派遣了军用运输机以表示支持。根据反虚假信息监督机构NewsGuard的报告，当用户询问由AI运营的Perplexity和Grok的X账号有关该说法的真实性时，两者均错误地表示该说法属实。

研究人员表示，Grok此前在验证与最近印巴冲突及洛杉矶反移民抗议相关的危机信息时曾出现过错误。上个月，Grok因在无关查询中插入“白人种族灭绝”这一右翼阴谋论而受到新的审查，该理论源自南非。这位出生于南非的亿万富翁马斯克将此归咎于“未经授权的修改”。

马斯克本人此前曾传播未经证实的说法，称南非领导人“公开鼓吹对白人的种族灭绝”。马斯克在Grok引用他多次起诉的自由派媒体监督机构Media Matters作为某些关于虚假信息回答的来源后，对Grok进行了批评。“你真丢脸，Grok，”马斯克在X上写道，“你的信息来源太差了。”

(以上内容均由Ai生成)