眼见为实：阻止 AI 深度伪造继承地球的竞赛正在进行中

快速阅读: 据《本周》称，深度伪造技术威胁日增，可能导致虚假信息传播、经济损失及声誉损害。印度CERT-IN已发高危警告，金融欺诈去年激增1000%。专家呼吁用AI对抗AI威胁，多国政府正采取措施应对。

眼见不再为实。随着人工智能（AI）使得数字克隆技术、音频和视频篡改工具，甚至电子身份认证（eKYC）技术变得普遍，世界正面临深度伪造技术悄然入侵达到流行病规模的风险。印度国家网络安全机构印度计算机应急响应小组（CERT-IN）已经在今年冬天以“高”严重性评级发出了关于深度伪造技术的警告，指出其可能传播虚假信息、造成经济损失以及损害声誉。在过去的几天里，社交媒体上充满恐慌，对AI生成图像的担忧蔓延开来，这些图像现在能够伪造从餐厅收据到甚至Aadhar卡等任何内容。钦奈警方周三警告市民注意宫崎骏热潮带来的危险，人们正在上传他们的照片，将其转换成模仿宫崎骏风格的动画。这里的危险在于：提供免费下载或定制服务的非官方网站和数字平台可能会感染设备上的恶意软件、勒索软件或病毒，这可能导致身份盗窃或数据丢失。

“深度伪造技术从新奇迅速演变为国家安全威胁。在过去的一年里，我们看到诈骗者冒充首席执行官窃取数十亿卢比，使用AI生成的身份进行工作面试，以及操纵整个选民群体的政治虚假信息运动。这种威胁是全球性的、实时的，并且具有危险的可扩展性，”皮实验室（pi-labs）创始人兼首席执行官安库什·蒂瓦里（Ankush Tiwari）说，该机构开发了用于AI驱动的深度伪造检测工具。

此外阅读：卡纳塔克邦设立印度首个网络犯罪协调中心以应对日益增长的网络犯罪

民主党指责唐纳德·特朗普市场操纵后提出异议

神秘笼罩在从安得拉邦工厂被盗的起亚汽车发动机上

如果一些估计可信的话，深度伪造骗局在金融领域呈爆炸式增长。去年，全球金融欺诈损失总额接近5000亿美元。更糟糕的是，与深度伪造相关的欺诈去年激增了1000%（增加了十倍），使其成为数字金融中增长最快的威胁之一。AI驱动的伪造工具的普及加剧了这场危机——如今，诈骗者可以使用超过2000种深度伪造视频篡改工具、超过1000种语音克隆工具，以及至少47种专门设计用来绕过电子身份认证协议的已知工具。更糟的是，大多数银行和公司目前使用的防火墙和网络安全工具可能不足以应对这一由AI驱动的新浪潮。

结果是？预计到2030年，电子身份认证欺诈将增加一倍以上，构成对银行和金融机构的严重威胁。“我们需要AI来对抗AI的威胁，”皮实验室（pi-labs）的蒂瓦里说，该机构开发了Authentify，这是一种先进的AI驱动的深度伪造检测解决方案，适用于金融行业。“全球金融损失正在以数十亿美元的速度增加。但除了金钱之外，公众信任的侵蚀和声誉信誉的丧失或许更为严重。”

世界各国政府已经注意到这一点，美国国防部正在进行语义取证计划，新加坡有一个AI验证基金会，而欧盟则通过其深度伪造检测挑战征集解决方案。上周，印度议会被告知内政部已成立网络犯罪协调中心，以协调与当局合作，全面处理网络犯罪，而2021年最新修订的《信息技术法》将成为保护互联网上“非法活动”的操作平台。

(以上内容均由Ai生成)