如何识别和防止深度伪造诈骗
快速阅读: 据《帮助网络安全》称，深度伪造技术利用AI生成逼真但虚假的视频、图片等，已成网络犯罪工具，用于诈骗、勒索及传播假信息。虽然检测有迹可循，但我们需提高警惕，通过使用检测工具、多因素认证及限制个人媒体分享等方式降低风险。
深度伪造（深度伪造）技术是一种借助人工智能和机器学习生成的合成媒体。简单地说，它们能够制造看起来和听起来都很真实的视频、图片、音频或文本，但实际上所呈现的事件从未真正发生过。这些被篡改的内容在社交媒体、即时通讯软件以及视频共享平台上广泛传播，模糊了现实与虚构之间的界限。“深度伪造”这一术语是由一位Reddit用户于2017年创造的，当时该用户创建了一个以此命名的子论坛。此子论坛用于分享由AI生成的视频，其中常包括名人面部替换的色情内容。起初，人们使用深度伪造技术是为了娱乐和趣味，但随着时间推移，它们逐渐成为犯罪分子手中的一种危险工具，用于实施欺诈、身份盗窃、勒索以及传播虚假信息。更令人担忧的是，如今制作深度伪造内容并不需要极高的技术水平。
**深度伪造背后的技术**
深度伪造技术主要依赖一种名为生成对抗网络（生成式对抗网络，简称GANs）的技术。本质上，GANs涉及两个算法协同运作。第一个算法被称为生成器，负责创建虚假内容——例如视频或图片。第二个算法被称为判别器，尝试判断内容的真实性。这两个算法互相推动改进：生成器变得越来越擅长制作逼真的虚假内容，而判别器则变得更加善于发现其中的瑕疵。此外，还有一种常用的替代技术，即自编码器。与GANs不同，自编码器不采用生成器和判别器。相反，它们专注于将一个人的面部特征压缩成一个小且易于管理的形式，然后将其重新构建到另一个人的脸上。尽管这种方法没有使用GANs，但它依然可以生成逼真的深度伪造内容，特别是在简单的面部替换任务中。随着各种AI工具的普及，从开源软件（如深度脸实验室、面孔交换）到移动应用程序（如Zao、重新面）的出现，制作深度伪造内容现在只需要一台笔记本电脑或智能手机以及合适的软件即可完成。
**网络犯罪分子利用深度伪造**
根据Entrust的一份报告，预计到2024年，每五分钟就会发生一次深度伪造攻击。其中一个典型案例是一个结合了深度伪造视频会议通话的社会工程技巧，致使一家跨国公司损失超过2500万美元。这些骗局对加密货币公司造成了特别严重的打击，平均每次损失达到44万美元。最近引起广泛关注的一个骗局涉及一名法国妇女，她被冒充演员布拉德·皮特的骗子欺骗。骗子利用AI生成的图像让她相信自己正处于一段浪漫关系之中。在长达18个月的时间里，这位妇女向诈骗者转账83万欧元，误以为这是布拉德·皮特因医疗紧急情况所需的费用。除了经济损失外，此类计划还会带来情感上的痛苦，破坏人们对数字通信的信任，并扰乱商业运作。鉴于全球复杂的地缘政治局势，这项技术也被用来传播虚假信息，尤其是在政治领域。这些由AI生成的视频和音频录音可以虚假地展示候选人发表争议性言论或从事有害行为，可能影响选民的决定。因此，它们可能会对民主制度产生重大影响。
**如何识别深度伪造**
尽管深度伪造技术不断进步，但仍存在一些缺陷，可以帮助提高检测能力。首先要注意面部动作方面的问题，观察是否存在不自然的眨眼模式或看起来不自然静止的眼睛；反应事件时是否有微妙的延迟或表情不匹配。其次，在光线和阴影方面要留意主体脸部的光线是否与周围环境相匹配；不一致之处，如光线变化、不规则的阴影和反射，可能表明视频已被篡改。接着，在音画同步上确保嘴部动作自然地与音频对齐；如果唇形同步出现偏差或声音有轻微失真，则可能是编辑过的迹象。最后，在视觉伪影上检查脸部与头发或背景相接的边缘处；异常的模糊、变形的边界、像素化或鬼影效果可能表明视频已被修改。
**如何减轻深度伪造风险**
为了保护自己，我们可以采取一些预防措施。首先，使用深度伪造检测工具和软件：利用专门设计用于检测深度伪造的工具和AI驱动的软件。这些工具可以分析数字内容中的异常并帮助验证其真实性。其次，了解深度伪造的趋势和技术：随时关注深度伪造技术的最新发展。了解新技术和常见的操作迹象可以帮助识别深度伪造。再次，实施多因素认证以验证身份：即使攻击者设法制作出逼真的深度伪造，这也可以防止他们访问敏感账户。最后，限制在线分享个人媒体：在网上分享的个人媒体越多，就越容易为威胁行为者提供材料来制作深度伪造。谨慎对待你在社交平台上的图片、视频和其他媒体。调整隐私设置，仅让可信赖的个人或团体可见。
没有人知道未来会怎样，但二十年前不可能做到的事情或者只有一小部分人能做的事情现在已经成为每个人都能做到的事，这也意味着它成为了一些心怀恶意的人手中的工具。随着技术的进步，区分真实与虚假将变得越来越困难，我们并没有灵丹妙药可以保护自己。我们所能做的就是保持警惕，并尽一切可能保护自己。当然，不要轻信互联网或社交媒体上的所有内容。
(以上内容均由Ai生成)
