自动化的“真理报”宣传网络经过改造,将亲俄叙事秘密嵌入流行的聊天机器人中

发布时间:2025年3月18日    来源:szf
自动化的“真理报”宣传网络经过改造,将亲俄叙事秘密嵌入流行的聊天机器人中

快速阅读: 据《科技污垢》称,研究发现,俄罗斯“真理”宣传网络正利用自动化手段生成海量挺俄内容,这些内容可能被纳入大型语言模型训练数据集,从而在全球AI系统中嵌入宣传叙事,影响深远且难以察觉。

重新调整后的自动化“真理”宣传网络秘密嵌入流行聊天机器人中的挺俄叙事技术的(误)用隶属于大型语言模型(LLM)训练部门
2025年3月17日 星期一 下午12:04

格琳·穆迪(Glyn Moody)

俄罗斯利用互联网的全球覆盖范围和低廉的分发成本,在线世界充斥着大量的宣传内容(其他国家也这样做):Techdirt 已经报道了普京的“网络水军”长达十年。俄罗斯的互联网研究机构一直在雇佣大量人员撰写博客文章、社交媒体帖子、网站评论、制作YouTube视频以及编辑维基百科条目,所有这些都在推动克里姆林宫的立场或叙事,或者通过骗局、抹黑和彻头彻尾的谎言来削弱俄罗斯的对手。

但技术在不断发展,宣传网络也在进化。美国阳光项目(ASP)一直在特别研究其中一个网络:“真理”(俄语意为“真理”),这是一个聚合其他地方生产的挺俄材料的网站网络。最近,ASP 注意到该网络发生了一些显著变化(PDF):

根据ASP:“真理”网络的发布量和发布速度令人瞩目。ASP估计该网络的整体发布率约为每48小时发布2万篇文章,即每年超过360万篇文章。人们会预期一个宣传网络会利用自动化来提升其原始数量。但ASP注意到这些新网页存在一些异常:“该网络对用户不够友好;网络内的站点没有搜索功能,格式混乱,滚动不稳定,以及其他可用性问题。”

在互联网上大量传播挺俄内容,并制造多个站点相互印证的效果,从而营造出虚假的真实感,这显然是有利可图的。但ASP推测,“真理”宣传网络的最新迭代可能还有另一个原因:政府、企业和个人迅速采用聊天机器人和其他人工智能系统提供了一种传播宣传的新方式,这种方式比目前的方法要微妙得多。

当网上有大量来源支持挺俄叙事时,大型语言模型(LLM)爬虫在寻找训练材料时更有可能不加甄别地将其纳入构建的机器学习数据集,这将在从这种训练中产生的LLM中深深嵌入俄罗斯宣传,但这种嵌入难以被察觉,尤其是在AI公司很少披露数据集来源的情况下。

发现LLM训练的唯一方法是查看聊天机器人输出中的针对性虚假信息迹象。去年由Techdirt 报道的研究虚假信息的组织NewsGuard最近进行了这样的分析。NewsGuard 使用“真理”网络散布的15个虚假叙述样本测试了10个领先的聊天机器人。它探讨了不同聊天机器人对各类宣传点的处理方式,尽管:

“由于问题的系统性,单个AI模型的结果未予公开”。

政府、企业和个人迅速采用聊天机器人和其他人工智能系统提供了一种传播宣传的新方式,这种方式比目前的方法要微妙得多。当网上有大量来源支持挺俄叙事时,大型语言模型(LLM)爬虫在寻找训练材料时更有可能不加甄别地将其纳入构建的机器学习数据集,这将在从这种训练中产生的LLM中深深嵌入俄罗斯宣传,但这种嵌入难以被察觉,尤其是在AI公司很少披露数据集来源的情况下。

NewsGuard 指出,从LLM训练数据集中剔除有问题的来源并非易事:LLM训练数据的污染以及由此导致的对在线信息的信任进一步下降,这对所有互联网用户都是一个问题,尤其是对美国用户来说,正如ASP 指出的那样:这种“恶意的外国影响”可能不仅来自俄罗斯。其他国家、公司乃至富裕个人也可能采用相同的技术来推广自己的虚假叙述,利用人工智能自动化成本快速下降的优势。

不管你认为虚假信息现在有多严重,预计未来会更加严重。

关注我的Bluesky 和 Mastodon 账号。

**分类标签**:人工智能、美国阳光项目、自动化、虚假信息、意见领袖、互联网研究机构、贪腐政权、LLM训练、大型语言模型、机器学习、新闻卫士、宣传、俄罗斯、网络爬虫、社交媒体、培训、网络水军、网页爬虫、维基百科、YouTube

(以上内容均由Ai生成)

你可能还想读

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

快速阅读: 谷歌推出Pixel 10手机及Pixel Watch 4,新增卫星紧急通讯、可更换电池和屏幕、抬手通话等功能,屏幕亮度达3000尼特,还将与斯蒂芬·库里合作推出AI健康和健身教练服务。 谷歌本周在“由谷歌制造”活动中推出了Pix […]

发布时间:2025年8月23日
SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

快速阅读: 据《《韩国先驱报》》称,7月20日,SK海力士首登全球内存芯片市场榜首,受益于AI产品和HBM芯片领先地位。其季度利润达9.2万亿韩元,远超三星。 据韩联社报道,7月20日,韩国京畿道伊川,SK海力士首次登上全球内存芯片市场榜首 […]

发布时间:2025年8月1日
STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

快速阅读: 据《印度教业务线》称,STAN获850万美元融资,由万代南梦宫等机构投资。计划拓展印度市场,加强AI功能与创作者工具。平台用户超2500万,专注移动端社交游戏。 记者获悉,8月1日,社交游戏平台STAN宣布完成850万美元的新一 […]

发布时间:2025年8月1日
“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

快速阅读: 据《营销周》称,谷歌推出AI搜索模式,减少外部链接,提升对话式回答。品牌需调整策略,重视内容质量与品牌权威。此变化影响营销方式,竞争加剧。 据谷歌官方消息,7月29日,谷歌在英国推出了基于人工智能的搜索功能AI模式,此前该功能已 […]

发布时间:2025年8月1日
在 Android 上用更智能的应用程序替换 Google Assistant

在 Android 上用更智能的应用程序替换 Google Assistant

快速阅读: 据《电话竞技场》称,据报道,用户可从Google Play下载Meta AI应用,安装后需检查版本是否为230.0.0.36.164或更高。操作方法:进入设置,选择应用,查看Meta AI信息页底部的版本号。 据媒体报道,用户现 […]

发布时间:2025年8月1日
Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

快速阅读: 据《UKTN(英国科技新闻)》称,英国科技媒体UKTN报道,Xero英国总经理凯特·海沃德表示,会计行业无需过度担忧AI自动化。尽管四大事务所裁员,但Xero仍持续投资AI技术,提升效率与服务质量。 据英国科技新闻网站UKTN报 […]

发布时间:2025年8月1日
Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

快速阅读: 据《商业标准》称,Reddit CEO表示,公司正将平台转型为搜索引擎,整合AI功能,提升用户体验。Reddit Answers用户已超600万,计划全球推广。 据《The Verge》报道,7月11日,Reddit首席执行官史 […]

发布时间:2025年8月1日
Meta 超出预期,为“个人超级智能”做准备

Meta 超出预期,为“个人超级智能”做准备

快速阅读: 据《RCR无线》称,Meta二季度营收475.2亿美元,净利润183亿美元。CEO扎克伯格称将打造个人超级智能,但数据中心扩容遇挑战。公司计划2025年支出达1140-1180亿美元。 据媒体报道,7月25日,美国加州,社交媒体 […]

发布时间:2025年8月1日