OpenAI 发现人工智能驱动的中国监控工具的证据

快速阅读: 《印度快运》消息，OpenAI的研究人员发现了一款由中国开发的基于Meta的Llama AI技术的监控工具，将其命名为“同行评审”。该工具被用于生成和翻译批评异议人士的英文帖子以及批评美国的文章。此外，OpenAI还发现了另一项名为“赞助不满”的活动，以及一项来自柬埔寨的活动，后者利用AI生成社交媒体评论推广投资骗局。这些活动引发了对AI被用于恶意目的的担忧。

公司研究人员表示，他们已经识别出这项新的活动，并将其称为“同行评审”。本·尼莫，OpenAI的主要研究员，表示这是该公司首次发现这种由人工智能驱动的监控工具。“由于威胁行为者使用我们的AI模型方式，他们在互联网的其他地方有时会向我们展示他们的行为，”尼莫说。人们对AI可能被用于监控、计算机黑客攻击、虚假信息传播和其他恶意目的的担忧日益增加。尽管像尼莫这样的研究人员指出，技术确实可以促成这些活动，但他们也强调，AI同样可以帮助识别和阻止此类行为。“由于威胁行为者使用我们的AI模型方式，他们在互联网的其他地方有时会向我们展示他们的行为，”尼莫说。尼莫和他的团队认为，这款中国监控工具基于Meta开发的Llama AI技术。Meta开源了其技术，这意味着它与全球各地的软件开发者共享了其研究成果。在一份关于AI用于恶意和欺骗性目的的详细报告中，OpenAI还表示，他们发现了另一项由中国发起的名为“赞助不满”的活动。该活动使用OpenAI的技术生成批评中国异议人士的英文帖子。OpenAI称，同一组织还用公司的技术将文章翻译成西班牙语，并在拉丁美洲分发。这些文章批评了美国社会和政治。此外，OpenAI的研究人员还确定了一项据信位于柬埔寨的活动。该活动使用公司的技术生成并翻译社交媒体评论，以推动一种被称为“杀猪盘”的骗局。AI生成的评论被用来在网上吸引男性，并诱使他们参与投资骗局。

（《纽约时报》因版权侵权起诉OpenAI和微软，涉及与AI系统相关的新闻内容。OpenAI和微软否认了这些指控。）

本文最初发表于《纽约时报》。

(以上内容均由Ai生成)