AI 和非洲的 “假冒” 记者 – 分析

快速阅读: 《欧亚评论》消息，人工智能技术被用于冒充记者传播虚假信息，威胁民主与新闻诚信。非洲面临信息污染挑战，亟需加强新闻教育与公众认知，同时呼吁科技公司开放数据以便研究风险并制定应对措施。

人工智能技术通过冒充专业记者来传播虚假叙事，正在“反咬信使”。——凯伦·艾伦

不久前，新闻工作者的工具仅限于一张纸、一支笔和一台打字机，偶尔还会用硬币打电话给编辑部。随后，计算机、电子邮件和手机带来了24/7报道的速度、连接性和对世界领导人的更大问责制，媒体充分利用了这些通信技术的进步。

在1993年索马里发生的“黑鹰坠落”事件被全球直播后，这一事件塑造了反恐行动的未来。而2002年的伊拉克战争则标志着24/7新闻广播新时代的开启。

24/7报道使新闻编辑室能够实时曝光全球事件。宽带全球区域网络卫星系统（BGAN）迅速传输高质量图像和音频。后来，LiveU等行业标准系统通过使用多个手机连接来传送广播新闻。

每一代新技术的迭代都保留了新闻业的基本原则。对于这个职业来说，核心在于能够以宪法赋予的言论自由权利为基础，对权力进行问责。

然而，一个令人担忧的趋势是滥用新兴技术污染信息环境。这可以通过扭曲我们看到或读到的内容、操纵信息传递方式，或者冒充信使来实现。也就是说，模仿传统上被视为基于事实的信息可信来源的记者。

人工智能虚拟人正在被创造出来，以冒充记者并大规模快速传播叙事。

最近，康拉德·阿登纳基金会的一份报告捕捉到了非洲地区由人工智能驱动的虚拟记者冒充调查记者的趋势。

人工智能虚拟人正在被创造出来，以冒充记者并大规模快速传播叙事。

“民主依赖于多元化，即多种意见导致社会和政治决策，”该组织撒哈拉以南非洲媒体项目主任亨德里克·西蒂格指出，“然而，我们形成意见所依据的信息必须……基于事实且真实……其他任何东西都可能导致悲剧和毁灭性的后果。”

报告指出，除了针对记者和影响者的深度伪造攻击外，人工智能虚拟人还被创建出来以冒充记者并大规模快速传播叙事。这是信息作战或外国信息操控与干扰（FIMI）的一部分，被用作地缘政治影响力的工具。

非洲数字民主观察站的一项调查显示，以色列网络安全公司Percepto International使用此类技术创建了一位假法国-加纳籍调查记者，她拥有自己的社交媒体资料和网站。她被用来向非洲大众媒体插入内容，并设计为“用捏造的揭露来抹黑非洲当地政客和国际组织”。

创建假调查记者虽看似提升了故事的可信度，却违背了专业新闻的基本准则。调查发现了多个这样的虚拟记者的例子。

这种策略似乎模仿了布基纳法索中突出的政治广告活动中使用假身份的做法，在那里，国际角色似乎支持该国2022年9月政变的领导人。Graphika公司观察到类似的技术被用来通过由虚拟人填充的假网站分发亲中国共产党的宣传材料。

创建假调查记者虽看似提升了故事的可信度，却违背了专业新闻的基本准则。

尽管人工智能虚拟人创建背后的技术主要用于培训和营销，但恶意行为者利用它来破坏公众信任。问题不在于技术本身，而是围绕其使用的护栏缺失。

最近，《半岛电视台》的一项调查显示，“幽灵记者”正在西非和中非地区撰写亲俄宣传文章，他们使用已故人士的身份，重新包装成调查记者。这些内容发布在大陆各地的新闻机构上。《半岛电视台》团队发表的文章至少涉及12个非洲国家，将这种做法与所谓的“亲俄影响力运动”联系起来。

利用新技术污染信息环境或质疑既定事实会威胁到民主制度。在许多非洲脆弱的民主国家中，缺乏强有力的主流媒体来对抗这种虚假信息令人担忧。

尽管非洲领导人正积极拥抱数字技术和生成式人工智能的优势，例如通过非洲联盟的大陆人工智能战略，但似乎缺乏对风险的理解紧迫感。

另一个危险是传统专业媒体的侵蚀，无论是资金还是人员方面。一位资深编辑告诉国际危机组织（ISS）的研究人员，在南非2024年5月的大选期间，她的部分年轻记者团队难以理解他们在民主进程中的角色。

科技公司难以获取在线数据，使得衡量非洲国家面临的风险变得困难。

尽管存在这些担忧，ISS的一项独立研究发现，专业新闻在那次选举中起到了抵御虚假信息运动的堡垒作用。

有一些努力在教育公众关于扭曲信息环境的危害。康拉德·阿登纳基金会最近出版了一本漫画书，名为《记者的正义之旅：人工智能时代》，由南非团队编写和插画。此外，像Media Monitoring Africa这样的组织的倡议也值得注意，它们促进了数字素养，并可能启发未来的干预措施。

尽管南非当前的大部分讨论集中在社交媒体平台和在线内容监管上——尤其是在近期白人至上主义叙事的背景下——这不太可能抓住利用生成式人工智能冒充记者的行为。

像欧洲最近推出的《人工智能法案》那样的法规可能不会，而且从许多人的角度来看也不应该在整个非洲复制，因为许多人认为缺乏数据、能力以及获取机会的不平等。

南非本地组织如Research ICT Africa表示，除非科技公司允许研究和监测组织访问在线数据，就像在北方国家一样，否则很难衡量风险并制定弹性措施。

在供应方，将人工智能意识嵌入新闻编辑室培训也可能是一个实际的解决方案。在需求方，需要开展公共活动，将专业新闻视为公共利益，并强调它被假冒伪劣破坏的危险——就像对待假品牌一样。

**作者简介：**
凯伦·艾伦是ISS普雷托里亚的顾问。

**来源：** ISS今日

(以上内容均由Ai生成)