随着澳大利亚大选的临近，对 Dutton 的 AI Deepfake 攻击凸显了 RedNote 上不断上升的错误信息威胁
快速阅读: 《B&T 营销与媒体》消息，小红书上出现大量误导性内容，涉及澳大利亚政党，引发对虚假信息和选举干涉的担忧。分析显示，算法机制使平台成为政治虚假信息的强大传播工具，而监管缺失可能影响选民判断。
在中文社交媒体平台小红书（RED）上，针对澳大利亚政党的误导性和人工智能生成的攻击引发了公众对虚假信息、虚假宣传以及联邦选举前潜在外国干涉的新一轮担忧。
其中最引人注目的事件之一是，一段由人工智能生成的深度伪造视频中，反对党领袖彼得·达顿被错误地描绘成用普通话讲话。这段视频利用深度伪造技术模仿了达顿的语音和行为举止，错误地声称他计划驱逐澳大利亚华人。
另一则针对阿尔巴尼斯政府的帖子错误地暗示，澳大利亚警方正在购物中心逮捕临时移民。
小红书最初设计用于生活内容和电商。然而，由于其在澳大利亚拥有超过70万月活跃用户，分析人士警告，其不断增长的影响力和算法机制使其成为政治虚假信息的强大工具。
由维多利亚州几所大学发起的RECapture项目自去年11月以来一直在追踪小红书上的误导性内容。他们的研究发现，两党主要派别和独立候选人已成为协调性虚假宣传活动的目标。
彼得·达顿一直是主要目标，误导性帖子歪曲了他关于核能、移民、住房及医疗保健的立场。工党与印度的外交努力也遭到批评，有视频暗示这可能加剧印度和中国移民在住房方面的竞争。
在针对达顿发布的其他视频中，有一个是由人工智能生成的视频，其中这位反对党领袖被描绘成流利地说普通话，错误地声称如果当选，他会发誓废除原住民旗帜。另一则帖子歪曲了他对国际学生的发言，错误地暗示他将他们比作“现代难民”。此外，一段歪曲版本的他在2023年关于反以色列抗议活动的演讲被错误地解读为呼吁驱逐澳大利亚华人。该帖声称达顿希望中国移民“离开这个国家”，并使用种族歧视言论暗示不融入的人将面临驱逐。
这些误导性叙述在小红书上迅速传播，在那里短片视频和耸动内容被大力推广。一些帖子被点赞和分享数百次，助长了华语社区中的虚假信息循环。
小红书上澳大利亚政客的官方账号似乎遭到了“隐形屏蔽”，这意味着他们的内容在平台上无法搜索到。澳大利亚广播公司（ABC）证实，工党、自由党和独立候选人均遇到了可见性问题，而关于他们的未经验证且具有误导性的内容却不受限制地传播。
澳大利亚选举委员会（AEC）承认了人工智能驱动的虚假信息和外国干涉带来的日益增加的威胁，但受限于资源不足和管辖权问题。
AEC的一名发言人告诉ABC：“如果我们收到有关频道上未经授权内容的信息，我们会进行审查，如果需要采取行动，我们会这样做。这是我们在所有社交平台采取的常规做法。”
这种被动反应方式与Facebook和Instagram等主流平台的做法形成鲜明对比。
与Meta不同，后者已在Facebook和Instagram上引入了事实核查合作伙伴关系、人工智能披露政策和选举诚信措施，AEC在类似小红书（RED）这样的平台缺乏同样的实时监控能力。
分析人士警告，这种对小红书的监管缺失可能让选民在选举前更容易受到操控内容的影响。
AEC为其“资源有限”的做法辩护，但也承认外国平台上的虚假信息是一个日益严峻的挑战。
随着澳大利亚即将迎来一场关键选举，像小红书这样的平台已成为争夺政治叙事的关键战场。如果没有更强有力的监督和公众意识，预计外国干涉、人工智能驱动的虚假信息和选举操控的风险将进一步加大。
加入逾3万名广告行业专业人士
从B&T直接获取最新的广告和媒体新闻到您的收件箱。
订阅
相关文章：
蓝绿色新闻？资金审查期间《公报》被指控为政治宣传
Meta的2025年选举计划：加强保护措施，但这足够吗？
SportsPick Live与Paramount Australia通过商业场馆的标志性广播协议取得巨大成功
《卫报》与The Trade Desk合作，通过OpenPath提升其数字广告体验
(以上内容均由Ai生成)
