“我们应该非常担心”：即使是 AI 也难以区分虚假和真实内容
快速阅读: 据《ABC 在线》最新报道，深度伪造检测器面临挑战，准确识别伪造内容的比例仅约三分之二。检测器虽有进步，但在新数据上的表现下降。专家呼吁加强公众意识和非技术解决方案，同时强调上下文理解和AI监管的重要性。
深度伪造检测器面临挑战：猫鼠游戏升级
或许只是一个角落里的异常像素，或者是一些微妙的面部变化，但这些可能是深度伪造检测器判断一张图片或视频真假的关键线索。然而，澳大利亚和韩国研究人员的一项新研究表明，现实情况可能并非如此。在实际应用中，深度伪造检测器难以区分真实内容和伪造内容，正确识别的比例仅为约三分之二。正如该论文的主要作者之一、CSIRO的深度伪造研究员沙赫罗兹·塔里克（沙赫罗兹·塔里克）所说：“在我们的评估中，目前这一代深度伪造检测器对于检测现实中的深度伪造内容来说并不达标。”
深度伪造检测器面临的困境
深度伪造检测器旨在推断一张图片、视频、音频片段或其他类型的媒体是否被篡改，甚至是完全虚构。这可能涉及视频中的换脸操作、完全虚构的人物图像，或者是伪造的新闻事件视频。例如，墨尔本的一位医生就成为了一起深度伪造骗局的目标，照片中显示他坐在办公桌后，字幕写着：“你真的认为到目前为止二甲双胍是答案吗？”网络诈骗分子利用真实的澳大利亚医生形象和姓名推销膳食补充剂并传播有害的医疗建议。
检测器通过大量伪造图像、音频和视频的数据集进行训练，构建起一种事实查找神经网络。正如墨尔本大学的计算机科学家、专门研究错误信息的蕾亚·弗雷曼（蕾亚·弗雷曼）指出，这些线索未必是人类会注意到的。例如，如果你对图像做出一些看似无关紧要的改动，比如改变几个随机像素，这可能会严重干扰模型的判断。生成深度伪造的人和检测深度伪造的人之间一直在展开技术较量。蕾亚·弗雷曼博士表示：“这有点像是猫捉老鼠的游戏，底层技术非常相似，每当生成者的技术更先进，深度伪造内容更加逼真时，它们也更难被检测出来。”
技术局限与挑战
不幸的是，由于是一种神经网络结构，检测器存在一定的局限性。仅仅通过某种方式压缩视频或图像就能骗过一些检测器。尽管有些深度伪造数据库用于制造检测器，但其他数据库则用于让检测器接受考验，分析真实和伪造的结果。两个常用的数据库用于测试模型——CelebDF和Deepfake Detection Challenge。CelebDF主要由YouTube风格的、光线充足的名人深度伪造视频组成，而Deepfake Detection Challenge (DFDC) 则拥有更广泛的视频类型，包括压缩的、颗粒状的或光线不足的视频。
在2020年，包括Facebook、微软和亚马逊在内的多家公司组成的联盟使用DFDC数据集支付了100万美元的奖金给最准确的深度伪造检测模型。获胜的检测器在识别真实或伪造视频时的准确率为65%。在当前的研究中，团队再次评估了最新的检测器在DFDC数据集上的表现。得分最高的检测器在识别真实或伪造视频时的准确率为86%，低于CelebDF的识别度，但高于2020年的结果。“从基准数据集的角度来看，我们可以认为检测能力有所提升，”塔里克博士说。但问题是，这些数据集已多年未更新。当团队收集了一组来自互联网的新深度伪造视频——他们称之为“野外”——检测准确率从86%下降到了69%。如果今天进行相同的分析，这个数字可能会更低。
技术军备竞赛与未来方向
蕾亚·弗雷曼博士指出，这在过去的数据库上工作的检测器不一定能推广到下一代伪造内容，这是一个大问题。尽管政治家和研究人员已经指出了选举错误信息和深度伪造色情内容生成的潜在风险，塔里克博士表示，这个问题在安全方面也已成为一个大问题，特别是在面部验证等功能方面。
塔里克博士还提到，建立专注于某一类深度伪造的专用检测器可能会有所帮助。他在本文中尝试了一种专门针对名人图像训练的检测器，它在名人深度伪造方面表现出色，但如果用同样的检测器去识别各种人物的图像，它的表现就不佳。蕾亚·弗雷曼博士同意当前的检测器特别不擅长“泛化”到其他类型的深度伪造，但她认为这可能无法解决军备竞赛的问题。技术总是在变化，她建议可能还需要更多的非技术解决方案。对她来说，最重要的一个是让人们意识到深度伪造的存在，并了解其可能的细微特征。西北大学的研究人员还创建了一个名为“Detect Fakes”的网站，用户可以在那里测试自己辨别真假媒体的能力。ABC新闻Verify团队也创建了一个完整的测验，会让你真正接受挑战。
人类的优势与AI监管
人类拥有的一个优势是深度伪造检测器所不具备的上下文环境。蕾亚·弗雷曼博士说，这在判断什么是真的、什么是假的方面非常有帮助。“我们知道这个视频来自哪个平台，可能也知道是谁发布的视频，”她说。“我们可以利用大量的元数据和上下文来做出更明智的决定。”另一个可能解决这个问题的方法是确保有效的AI监管到位。但根据弗雷曼博士的说法，这非常难以做到。“我不了解任何地方在这方面做得令人满意，”她说。与此同时，猫捉老鼠的游戏仍在继续。“判断事物真伪正成为一个重大问题，这就是为什么我们需要做更多研究并开发更好的工具，”塔里克博士说。
科学在你的收件箱获取来自ABC的所有最新科学故事。您的信息将按照《ABC隐私收集声明》处理。电子邮件地址订阅
(以上内容均由Ai生成)
