OpenAI 发现证据表明使用 ChatGPT 的人工智能监控工具“似乎起源于中国”

快速阅读: 据《eWeek 系列》称，今日，开放人工智能（OpenAI）发布报告称，已封禁一批滥用其模型的账户。其中，有证据显示中国威胁行为者使用或试图使用OpenAI及另一美国实验室的模型进行监控，并生成反美西班牙语文章。此外，一些账户生成针对中国异议人士的英文短评，以及关于美国社会分裂的西班牙语长篇文章，疑似在中国制造并发表在拉丁美洲主流媒体上。OpenAI表示将继续打击网络威胁，并强调合作的重要性。

图片来源：知识共享 了解更多。今日，开放人工智能（OpenAI）发布了一份报告，详细说明了该公司如何通过禁止某些账户使用其人工智能模型来阻止恶意用途的多个实例。其中包括因使用ChatGPT而被封禁的一些账户。在两个案例研究中，公司发现有证据表明来自中国的威胁行为者使用或试图使用由开放人工智能和另一家美国人工智能实验室构建的模型，“与一次明显的监视行动有关，并生成反美西班牙语文章”。这些情况被称为同行评审和受赞助的不满。

同行评审

开放人工智能最近封禁了一批ChatGPT账户，这些账户的运营者使用公司的模型生成类似于销售宣传的描述：“一种社交媒体监听工具，他们声称曾用此工具向中国国家安全机构提供关于西方抗议活动的实时报告。”研究人员表示，威胁行为者还使用开放人工智能的模型调试代码，显然是为了实施这样一个工具，该工具似乎是用非开放人工智能模型驱动的。开放人工智能的研究员本·尼莫夫表示，这是公司首次发现这种由人工智能支持的监控工具，正如《纽约时报》报道。开放人工智能的报告指出，Meta的开源Llama版本是开发操作员代码所使用的AI工具之一。据彭博社报道，Meta未确认其服务是否涉及此事，但表示如果确实涉及，那只是众多可用工具中的一个，包括在中国制造的人工智能模型。

受赞助的不满

开放人工智能还封禁了一系列ChatGPT账户，这些账户使用其模型生成批评中国异议人士蔡霞的英文短评，以及在秘鲁即将举行的2024年亚太经合组织论坛前夕，聚焦于美国社会和政治分裂的西班牙语长篇文章。“这是我们首次观察到可能的中国影响行为者成功在拉丁美洲主流媒体上发表文章，”开放人工智能的研究人员说。

开放人工智能持续努力打击网络威胁

开放人工智能的研究人员表示，他们致力于继续识别、预防和揭露网络威胁，指出人工智能公司在面对网络威胁时拥有独特的视角。他们强调，重要的是与上游和下游提供商以及开源研究人员分享研究成果，并补充说，“从开放人工智能创新中流出的AI支持调查能力提供了宝贵的工具，帮助保护民主AI免受敌对专制政权的影响。”开放人工智能持续努力打击网络威胁。

(以上内容均由Ai生成)