追踪数字煽动：打击虚假信息引发的暴力

快速阅读: 《国际金融博览会》消息，7amleh开发的暴力指标等工具监控网络仇恨和虚假信息，揭示煽动与暴力间的联系，推动科技公司改进政策。尽管面临AI驱动的新型威胁，7amleh认为民间社会需创新应对，利用技术增强韧性。

7amleh是一个致力于促进问责制并加强防范网络仇恨活动保护的IFEX成员组织。暴力指标提供了一种令人警醒的观察方式，揭示了在线煽动与巴勒斯坦人在实地遭遇的升级版暴力之间的实时联系。虚假信息不仅误导，还会煽动仇恨。在巴勒斯坦，虚假和煽动性的叙述迅速演变为去人性化的仇恨言论，使整个社区非人化。在这种情况下，发声可能面临逮捕、暴力甚至更糟的情况，这使得揭露谎言变得更加困难。

无论是以色列官员指控巴勒斯坦记者、医护人员，甚至是联合国近东救济工程处（UNRWA）工作人员为激进组织成员，还是错误地将以色列袭击的受害者描述为“危机演员”，这些虚假叙述传播得很快。反复传播后，它们会削弱保护措施，使非人化变得正常化，并为暴力行为正名。

作为回应，民间社会正在采取行动。IFEX成员如阿拉伯社交媒体发展中心（7amleh）正在带头夺回网络空间。7amleh的核心工作是暴力指标，这是一个由人工智能驱动的语言模型，用于扫描希伯来语和阿拉伯语内容中的仇恨言论和煽动性内容。该指标最初在希伯来语中部署，随后扩展到阿拉伯语版本，其数据输入到7or平台，这是一个实时平台，具有可视化仪表板和研究人员及倡导者用来要求更强有力保护措施的指标。

“监测仇恨和虚假信息是反对它们的第一步，也是关键一步，”7amleh执行主任纳迪姆·纳希夫告诉IFEX。“我们的工具不仅仅是收集数据，它还提供证据、早期预警和问责的基础。”

通常在危机期间达到高峰，该指标提供了在线煽动与针对巴勒斯坦人在实地遭遇的升级版暴力之间实时联系的令人警醒的观察结果。2023年初，该工具标记了在X平台上持续六周的希伯来语煽动性内容，这些内容发生在2月26日胡瓦拉定居点发生的暴行之前，在被占领的巴勒斯坦领土上，以色列定居者纵火烧毁房屋、汽车和牲畜，造成数百人受伤，一名巴勒斯坦人死亡。

“我们看到以色列暴徒在网上社区组织攻击。煽动首先发生在网络上，然后转化为现实世界的暴力，”纳希夫说。

在10月7日袭击和以色列对加沙的战争之后，7amleh的暴力指标在2023年10月至12月期间捕获了数百万条更多用希伯来语发布的帖子，每一条都在煽动暴力、助长战争罪行并塑造现实世界政策。民间社会组织警告说，这种仇恨的泛滥不仅加深了在线信息环境的毒性，还制造了公众对暴行的认同。

“人们被杀害，家园被摧毁，生命被粉碎——而且很多都是从网上开始的，”纳希夫强调。“这不是偶然事件；现在有统计数据支持。”

自推出以来，暴力指标已成为一个不可或缺的资源，提供了基于证据的洞察力，这对于追究科技巨头的责任至关重要，并改变了像7amleh这样的组织与他们对话的方式。

“当你与这些公司坐下来时，他们会擅长混淆概念，”纳希夫说。“他们会说‘哦，我们不知道’或表示他们没有数据来支持这些说法。但当你提供大量数据集并展示给他们数百个案例时，就很难否认了。”

根据纳希夫的说法，平台历史上过度审查阿拉伯语内容，部分原因是9/11后的压力促使审查阿拉伯语和穆斯林声音。虽然这些敌意言论分类器设计得过于谨慎，经常不公平地针对阿拉伯语使用者，但希伯来语内容基本上未受检查，Meta最初根本没有审核系统。该项目最重要的成果之一是成功施压Meta实施有效的希伯来语分类器，自动标记或删除仇恨言论，这些内容长期以来在公司的审核政策下未能得到适当执行。

“战争初期，‘阿拉伯人去死吧’这样的短语随处可见。现在这些关键词会被自动移除或标记。你甚至不能再写它们了，”纳希夫说。“这还不完美。还有很多工作要做。但与我们开始时相比，这是巨大的进步。”

尽管如此，威胁仍在演变和扩大。虚假信息和仇恨言论现在被武器化用于由人工智能驱动的影响活动，这些活动会启动成群的假账户，打压独立报道，并为针对记者特别是加沙地带的记者（自2023年10月以来已有超过200名巴勒斯坦记者和媒体工作者被以色列军队杀害）的正当性辩护。

“我们可以检测到暴力或仇恨，但并不总是能检测到协调，”纳希夫指出。“我们现在面对的是完全不同的情况。使用人工智能，你可以秒速生成数千个极具说服力的档案资料，以针对政治对手，打压独立媒体，并在全球范围内操控舆论。”

即便如此，7amleh看到了机会。那些推动虚假信息传播并加剧已经有毒的在线环境的相同人工智能工具可以被重新用于保护，帮助民间社会建立韧性并适应新兴威胁。

在民间社会内部建立这种技术能力不再是可选的，7amleh认为创新对于应对这些不断演变的挑战至关重要。

“我们谈论了很多关于数字转型和人工智能的话题，但许多组织仍然使用过时的方法和工具，”纳希夫解释道。“我们需要构建自己的工具。我们需要拥抱人工智能、大型语言模型以及数据分析工具；不是作为奢侈品，而是作为倡导的必要手段。”

通过将在线证据转化为行动，7amleh的工作为巴勒斯坦及其他地区的民间社会提供了对抗数字暴力的重要蓝图。在一个虚假信息和网络仇恨不受控制就会引发现实伤害的背景下，这项工作不仅紧迫，而且对于确保安全、公正和问责制至关重要。

(以上内容均由Ai生成)