科学家警告深度伪造检测工具的主要弱点

快速阅读: 据《Knowridge 科学报告》最新报道，国际研究团队发现现有深度伪造检测技术存缺陷，16种主流检测器在真实环境中的表现不佳。研究提出改进方案，包括多模态检测和指纹技术等，以应对更逼真的伪造内容。

国际研究团队发现现有深度伪造检测技术存严重缺陷

一个国际研究团队发现，当前的深度伪造检测技术存在严重问题，引发了对用于识别人工智能生成的虚假图像、视频和音频工具可靠性的担忧。由澳大利亚国家科学机构CSIRO与韩国成均馆大学（SKKU）合作开展的研究显示，在测试的16种领先深度伪造检测器中，没有一种能够在真实环境中始终如一地检测出深度伪造内容。这些研究成果已发布于arXiv预印本服务器。

深度伪造是一种由人工智能生成的合成媒体，能够令人信服地操纵视频、图像和声音，从而制造虚假内容。尽管这一技术有一些积极的应用，但同时也带来了严重的危害，包括错误信息、欺诈和隐私侵犯。CSIRO网络安全专家沙里夫·阿布阿德巴博士指出，生成式人工智能的快速发展让深度伪造变得更加廉价、便捷且更具说服力。“深度伪造如今愈发难以察觉，这使得它们更容易传播虚假信息。我们需要更先进的检测工具来应对新的威胁。”阿布阿德巴博士说道。

为何现有的检测器会失败？

研究人员开发了一种五步框架，用以评估深度伪造检测工具的性能。测试揭示了影响准确度的18个不同因素，包括数据处理方式、检测模型的训练方法以及测试手段。一个关键问题在于，许多深度伪造检测器仅在特定类型的假内容上表现出色。例如，广泛应用的ICT（身份一致变换器）检测器是基于名人面孔进行训练的。然而，当测试涉及非名人深度伪造内容时，其表现并不理想，这表明检测工具在面对新的或不熟悉的材料时可能存在困难。

另一位CSIRO网络安全专家克里斯汀·摩尔博士强调了采用更先进检测策略的重要性。她建议未来的工具应结合多种检测方法，而不仅仅依赖于图像或音频分析。“我们正在开发整合音频、文本、图像和元数据的模型，以提高准确性。”摩尔博士表示。

另一种有前景的方法是采用指纹技术，这种技术能够追踪深度伪造的来源，从而更有效地识别这些内容。研究人员还建议使用更大、更多样化的数据集，包括合成数据，来训练检测工具。随着深度伪造技术的不断发展，检测虚假内容的难度只会增加。然而，这项研究为如何改进检测工具以应对日益逼真的深度伪造提供了宝贵的见解。

通过研发更智能、更具适应性的检测系统，科学家们希望在未来能够更好地保护公众免受深度伪造错误信息和欺诈的危害。

(以上内容均由Ai生成)