比小说更奇怪：与错误信息进行艰苦的斗争
快速阅读: 《硅共和集团》消息，深度伪造技术和虚假信息泛滥，辨别真相困难重重。专家呼吁教育、法规和技术结合，提升数字素养，加强内容审核透明度，传统媒体也需担责，共同应对虚假信息挑战。
随着深度伪造技术和虚假信息的迅速蔓延，同时一些真实的离奇事件也在传播，人们如何辨别真相与谎言？本周初，一段关于地震的虚假人工智能生成视频在网上疯传，吸引了数百万次观看，这场虚假视频出现在缅甸发生毁灭性地震、造成数千人死亡之后。
上周，美国食品药品监督管理局的疫苗监管负责人辞职，他指出罗伯特·肯尼迪·小约翰逊试图传播有关疫苗安全性的错误信息。去年，在美国大选期间的混乱局势中，埃隆·马斯克在X平台分享了一段卡玛拉·哈里斯的虚假竞选视频，这一行为违反了该平台的规定——而这个平台正是由他掌控的。
虚假信息和误导性信息在社交媒体上持续泛滥，尤其是在人工智能生成内容和深度伪造技术兴起的情况下。持续的错误信息对社会各阶层产生了重大影响，引导公众舆论，影响选举，并破坏了对民主机构、科研成果和新闻业的信任。今年早些时候，当Meta决定停止事实核查时，我想要进一步探讨我们即将面对的未来，数据流动不再线性，而且在许多情况下不再被验证。
德伊德雷·阿恩是都柏林三一学院技术、法律和社会研究小组的主任。她是米兰大学信息社会法中心的研究员，同时也是爱尔兰人工智能顾问委员会的成员。2022年，她成为了爱尔兰皇家学院伦理、政治、法律和哲学委员会的成员。她说，Meta决定缩减其事实核查工作令她深感忧虑。“没有专门的事实核查团队，社交媒体平台可能会变成虚假信息的温床，虚假叙述无节制地传播且不受监管。”
她说：“通过降低事实核查的重要性作为风险缓解措施，Meta正在将社区负担转移到用户身上，让他们使用注释来核实信息准确性并在帖子中添加注释。从数量游戏来看，这似乎不可行，因为每天产生的内容量巨大。但更重要的是，Meta可能处于被动或疏忽状态。”
她还指出一个担忧，即Meta可能会为其他科技公司和社会平台树立先例，导致在打击虚假信息方面出现‘逐底竞争’。‘没有事实核查人员，虚假信息会更自由地传播，可能以难以逆转的方式影响选举、公共卫生决策和社会态度。’
‘极其强大且危险至极’”
美国总统唐纳德·特朗普第二任期三个月后，我们只看到了错误信息的传播增加，这在很大程度上要归功于美国内阁官员。根据阿恩的说法，这种上升趋势，加上它在社交媒体上的传播能力，“极其强大且危险至极”。
“挑战不仅在于误导信息的数量庞大，还在于其呈现方式的复杂性，使得个人越来越难以区分可信来源和虚假信息。”
“错误信息本质上利用情绪反应。设计用来引发愤怒或恐惧的内容通常比事实信息传播得更广、更快。”
错误信息的后果广泛且深远。在公共卫生领域，新冠疫情提供了一个鲜明的例子，说明虚假信息如何在线传播。2014年的纪录片《制造怀疑的人》，灵感来自同名书籍，深入探讨了几十年来广泛使用的游说技巧，这些技巧被用来制造关于气候变化危机、永久化学品的危险以及烟草产品负面影响的复杂虚假信息运动。
这些技巧，再加上洪水般涌入互联网的人工智能生成深度伪造技术，导致人们对可信机构产生不信任。
“当人们反复接触到虚假或误导性叙述时，他们可能会开始怀疑传统新闻来源、科学共识甚至政府机构的可信度，”阿恩说。“这种信任的缺失削弱了民主社会，因为它为阴谋论、政治极化以及在某些情况下暴力和动荡创造了肥沃土壤。”
她补充说，右翼社交媒体账户和去中心化平台被用于传播虚假叙述以煽动恐慌并引发暴乱的程度令人极为担忧。“这种负面信息对我们社会文化和民主价值观的影响是巨大的。”
事实核查的局限性
虽然Meta取消事实核查的做法是一个令人不安的先例，即使有事实核查人员，内容审核也一直是一场斗争。每秒上传的内容量之大，使人类审核员无法跟上。根据YouTube的数据，每分钟上传超过500小时的内容。除此之外，这项工作的性质本身非常令人痛苦，审核员的任务是观看互联网上最糟糕的内容，以决定是否应该删除，日复一日。
这些审核员承受的心理创伤已被广泛记录。阿恩说，虽然AI驱动的审核工具可以有所帮助，但它们往往在细微差别、上下文和讽刺方面表现不佳，导致执行上的一致性问题。
“另一个挑战是内容审核中的偏见感知。被删除或标记内容的用户可能会声称受到审查，从而进一步不信任平台。这种动态被利用来错误地将事实核查描述为对言论自由的攻击。”
“最终，尽管事实核查和内容审核是重要的工具，但它们单独并不足够。需要一种更全面的方法，结合媒体素养、透明的平台政策和AI驱动的虚假信息检测，才能有效地大规模对抗虚假信息。”
战斗仍在继续
因此，随着每天上传的内容数量无法计数，人工智能生成内容的戏剧性增长以及由此产生的虚假信息，我们作为一个社会如何才能开始解决这个问题？
不出所料，这个问题没有灵丹妙药，因为复杂的多面问题需要复杂的多面解决方案。即使如此，这些解决方案也不会是绝对的，但它们可能有助于对抗虚假信息。
阿恩说，教育、法规和技术革新相结合是应对这一日益严重的挑战的必要手段。“政府和监管机构必须确保主要平台继续致力于打击虚假信息，”她说。“例如，虽然Meta在美国已经开始了这一步骤（停止事实核查）——对于Facebook、Instagram和WhatsApp，有趣的是，如果同样的严格事实核查暂停在欧盟市场实施，可能会被视为违反欧盟数字服务法案下适用于Meta的平台义务，以采取措施阻止假新闻和仇恨言论的传播。”
她还表示，平台应对其设计的系统负责，优先考虑耸人听闻的虚假信息而非准确内容。算法透明度和负责任的内容审核至关重要，以确保用户不会不断被误导或潜在有害的信息冲击。
培养数字素养是打击虚假信息的另一个关键组成部分。即使有政府政策、欧盟调查和平台被迫做正确的事情，我们仍然会被大量需要分析的虚假信息淹没。
阿恩说，其中重要的一部分应该是尽早把媒体素养教育引入学校。学生应该学习如何评估不同来源，练习批判性思维，并识别误导或操纵性内容。
“除了正规教育外，公共意识宣传活动和易于获取的数字素养资源是必不可少的。政府、民间社会组织和技术公司应合作提供用户友好的工具和指南，帮助人们评估在线信息。”
在她自己的工作中，爱尔兰皇家学院举办免费活动作为其演讲系列的一部分，然后上传到网上供免费访问。该系列从不同角度探索人工智能的多维度景观。下一次活动将于2025年4月24日举行，重点是负责任的人工智能。
“数字素养的另一个关键方面是培养怀疑精神而不失理性。虽然质疑信息很重要，但我们必须确保人们不会陷入将所有来源都视为同样不可靠的陷阱，”她说。
在我看来，传统新闻和媒体机构也必须承担起这一责任。记者的工作始终是区分事实与虚构并报道读者需要知道的真实新闻。
去年，我采访了波因特研究所的媒体智囊团MediaWise主任亚历克斯·马哈德万，我们讨论了新闻行业内的变化及其对‘避免点击诱饵’的责任，即使盈利模式要求尽可能多的眼球停留在页面或网站上。
马哈德万当时说的一件事让我感到积极，研究表明观众喜欢事实核查，这可以通过解释性文章、专门的事实核查文章或如BBC Verify或RTÉ Clarity这样的项目来实现，后者今天刚刚推出（4月3日）。
随着我们继续深入兔子洞，被高度逼真的深度伪造和精心策划的虚假信息包围，我有希望新的事实核查浪潮或将涌现。不要错过你需要成功的关键知识。订阅每日简报，这是硅谷共和国对必知科技新闻的总结。
(以上内容均由Ai生成)
