Meta 将标记 AI，深度伪造以保护选举完整性

快速阅读: 《文华酒店》消息，澳大利亚选举期间，脸书等主要社交媒体平台将通过AI生成内容加注免责声明等方式，打击虚假信息干扰。不到1%的虚假信息由AI生成，公司正汲取全球选举经验以应对挑战，并与当地机构合作确保选民获取准确信息。

主要社交媒体平台将在澳大利亚选举期间努力打击选民受到的虚假信息干扰。脸书（Facebook）、照片墙（Instagram）以及丝线（Threads）的母公司元宇宙（Meta）将要求由人工智能生成或经过数字篡改的帖子带上免责声明。

这项措施源于对愈发难以辨识的真实感十足的深度伪造品（即经过数字修改的图像、视频或音频）可能被用于传播选举活动中的虚假信息和假新闻的担忧。由元宇宙公司的人工智能创建的广告中包含的照片真实内容将贴上标签，用户在脸书、照片墙和丝线上发布来自谷歌、开放人工智能（OpenAI）、微软、Adobe、Midjourney及Shutterstock生成的图像也会如此处理。

元宇宙公司表示，对于可能误导公众的重要议题相关篡改图像、视频或音频，将添加更为显著的标签。“未按要求标注”的广告将会被拒绝，屡次违规者将面临处罚。涉及社会问题、选举或政治的广告必须包含授权信息，包括“由……支付”的免责声明，并且可以在元宇宙公开可用的图书馆中查阅。选举前还会为候选人和政党组织提供培训，以确保他们在竞选期间拥有正确的授权。

分析全球其他选举后，元宇宙公司确认，在有关社会问题、选举和政治的帖子中，不足1%的事实核查后的虚假信息是由人工智能生成的。尽管使用了这些帖子，但数量并不多，这与澳大利亚代理选举专员在谈及美国选举时提到的深度伪造品情况一致。该公司还在努力追踪协调的外国影响力行动，并表示自2017年以来已经取缔超过200个此类网络。

该公司指出：“这是一个高度对抗性的领域，我们下架的欺骗性活动不断试图重新出现并逃避我们的检测及其他平台的审查。”根据元宇宙公司的政策，可能引发身体伤害或选举干扰的虚假信息将被移除。该公司表示，正在从全球选举经验中汲取经验，包括印度、英国和美国的选举。

元宇宙公司继续与法新社和澳大利亚联合新闻社合作核查内容。被证实为错误的内容将带上警告标签，并限制分发，因此不太可能被看到。该公司还表示，正在与澳大利亚选举委员会合作，通过其平台连接选民到经过验证的信息。用户会在投票日收到投票提醒。

延伸阅读：创新的伦理与人工智能前所未有的挑战

(以上内容均由Ai生成)