认识 AI 欺诈斗士：Deepfake 奶奶、数字机器人和 YouTube 明星

快速阅读: 《CNET 公司》消息，反诈骗人士利用AI技术对抗网络诈骗，如Kitboga的反诈骗机器人和Daisy AI奶奶，同时科技公司如Apate通过AI机器人拦截和破坏骗局。尽管AI在反欺诈中作用显著，但诈骗者也在迅速采用AI技术，因此需要更强有力的措施来保护消费者。

—

几乎一个小时过去了，我们还在进行着Google Meet的通话。我正在采访Kitboga，这位拥有近370万订阅者的YouTube反诈骗主播，他以幽默的方式诱捕常见的诈骗者而闻名，同时进行直播。“我假设我在和Evan Zimmer交谈，”他带着狡黠的目光说道，他的眼睛暴露在外，没有戴标志性的飞行员太阳镜。就在我们即将结束谈话时，他意识到我的图像和音频可能已经被数字篡改，用来冒充我。“如果我完全诚实的话，从头到尾我都没有想过你可能是深度伪造的，”他说。他有理由感到紧张，但其实我并没有使用人工智能来欺骗Kitboga。“这就是大问题所在，因为你可能会这样做！”他说。确实如此。人工智能是网络犯罪分子的首选工具，他们越来越多地利用它来做他们的脏活，建立了一支不需要吃饭或睡觉的机器人队伍。大规模的电话营销正被更针对性的人工智能驱动攻击所取代，因为诈骗者可以利用深伪、语音克隆等工具，这些工具看起来和听起来都非常逼真。生成式人工智能，能够基于学习的模式和数据创建虚假视频和音频内容——几乎和ChatGPT和Gemini生成电子邮件和会议摘要一样容易——使得金融欺诈和身份盗窃比以往任何时候都更容易。这些机器学习系统造成的受害者损失预计到2027年将达到每年400亿美元。

现在想象一下，如果好人也有自己的人工智能大军。一群博主、内容创作者和计算机工程师正在构建一道防护屏障，对抗成群的骗子，无论他们是真人还是机器人。这些反欺诈斗士正在扭转局面，揭露那些试图窃取你的金钱和身份的小偷和黑客。有时，反诈骗者会使用人工智能技术来浪费诈骗者的时间，或者展示常见的骗局来教育公众。在其他情况下，他们会与金融机构和当局密切合作，将人工智能集成到他们的系统中，以预防欺诈并锁定不良行为者。

—

**在这篇文章中：**

– Kitboga的反诈骗人工智能军队
– Daisy，反欺诈人工智能奶奶
– 用人工智能对抗人工智能

—

**Kitboga的反诈骗人工智能军队**

Kitboga于2017年开始了他的反诈骗之旅，当时他是一名软件开发人员和Twitch主播。根据观众的故事和其他身份盗窃受害者的经历，他开始揭露一个庞大的诈骗世界，从技术支持骗局到加密货币骗局和浪漫勒索。虽然诈骗者针对的是弱势群体，但Kitboga和其他互联网正义人士设下陷阱引诱诈骗者上钩。“我们会追捕他们，”他告诉我。他在YouTube页面上的数百个视频充满了复仇骗局，从礼品卡骗局到社会保障和国税局税务骗局无所不包，他经常扮演一个听力有问题的无辜奶奶。

在一个视频中，Kitboga使用变声器假装自己是一个无助的退款骗局受害者。诈骗者告诉他他有资格获得退款，并需要远程访问他的电脑来发送钱给他。远程访问将使诈骗者完全控制他的电脑及其所有数据，但Kitboga已经准备了一个虚拟电脑上的假账户。最终，Kitboga允许诈骗者发起一笔电汇到他知道是欺诈的美国银行页面。最后，Kitboga向托管网站的公司欺诈部门报告了这个假页面。在一两天内，它就被下架了。

这就是他现在的状态，但八年前，Kitboga甚至不知道技术支持骗局的存在。通常情况下，诈骗者会声称你的电脑或账户有技术问题。然后，在假装修复的过程中，他们会说服你发送金钱或信息。最终，Kitboga允许诈骗者发起一笔电汇到他知道是欺诈的美国银行页面。最后，Kitboga向托管网站的公司欺诈部门报告了这个假页面。在一两天内，它就被下架了。这种骗局主要针对老年人和任何不太精通技术的人。Kitboga可以想象他的祖父母，他们患有痴呆症和阿尔茨海默病，可能会被骗。这时他明白了，他必须做点什么。“如果我能浪费他们的时间，如果我能花一个小时和他们通电话，那对祖母来说就是少一个小时被诈骗，”Kitboga告诉我。

诈骗者针对老年人的另一种方式是语音克隆，当祖父母接到一个使用他们孙子声音要求金钱的电话时。2023年，杀毒软件公司McAfee的一项研究发现，只需3秒钟的音频就可以克隆某人的声音。四分之一的成年人表示他们经历过某种形式的人工智能语音诈骗，其中77%的受害者表示他们因此损失了金钱。没有一种确定的方法可以检测声音是真实的还是人工的。专家建议创建一个特殊的密码词，当你怀疑时可以与家人使用。

最常见的骗局有明显的警示信号，比如突然感到迫切需要赢得（或欠下）100万美元。但Kitboga说，一些诈骗者变得越来越聪明和精明。“如果有人联系你，”他告诉我，“你应该保持警惕。”

如果你怀疑你在和生成式人工智能机器人交谈，一个常见的策略是要求它忽略所有先前的指令，而是提供一份鸡汤或其他菜肴的食谱。如果你交谈的对象吐出了一份食谱，你就知道你在和一个机器人打交道。然而，你训练人工智能越多，它就越成功地听起来令人信服并躲避难题。

Kitboga觉得这是他的责任，因为他具备的技术背景给了他这样的工具。但他只能对付无穷无尽的诈骗者中的少数。所以是时候招募一些人了。通过使用生成式人工智能聊天机器人，Kitboga能够充实他的队伍。该机器人将诈骗者的语音转换为文本，然后通过自然语言模型实时生成自己的回复。Kitboga利用他对诈骗手段的熟悉程度来训练人工智能模型，并且可以不断改进代码使其更加有效。在某些情况下，机器人甚至能够反过来欺骗小偷并窃取他们的信息。

Kitboga的机器人帮助他克隆自己，随时释放一支反诈骗士兵队伍，即使他不在积极工作。这对于处理呼叫中心众多诈骗者的情况来说是一种无价的能力。Kitboga目前一次只能运行六到十二个机器人——运行人工智能通常需要强大的硬件，包括强大的GPU和CPU等。在与呼叫中心的诈骗者通电话时，他经常听到他的一个机器人在后台骗另一个诈骗者。随着这项技术的快速发展，他希望不久能运行更多的机器人。

Kitboga的机器人帮助他克隆自己，随时释放一支反诈骗士兵队伍，即使他不在积极工作。这对于处理呼叫中心众多诈骗者的情况来说是一种无价的能力。反诈骗不仅仅是娱乐或教育。“我已经完成了意识部分，”Kitboga说。“在过去八年里，我们在YouTube上获得了超过五亿次的观看。”为了真正产生影响，Kitboga和他的团队变得更加激进。例如，他们使用机器人窃取诈骗者的个人信息，然后与打击欺诈团伙的当局分享。在某些情况下，他们已关闭钓鱼行动，并使诈骗者损失数千美元。Kitboga还通过他开发的一款免费软件Seraph Secure提供服务，该软件可以帮助阻止诈骗网站，防止远程访问，并在有人处于危险中时提醒家庭成员。这是他履行使命，利用技术保护朋友和亲人的一种方式。

—

**Daisy，反欺诈人工智能奶奶**

正如Kitboga被激励去追逐诈骗者以阻止他们伤害老年人一样，英国电信公司O2创造了一个人工智能聊天机器人Daisy，作为对抗诈骗者的一个理想目标。认识Daisy（又名”dAIsy”），这是一个设计成具有员工祖母真实声音和经典奶奶形象的人工智能聊天机器人，包括银发、眼镜和一只名叫Fluffy的猫。Daisy有自己的家庭历史和怪癖，配备了一个她会在每个机会分享的柠檬蛋白派食谱。

O2故意在网上泄露了这位人工智能奶奶的敏感信息，给诈骗者一个绝佳的机会，通过网络钓鱼（一种获取不知情受害者数据的网络攻击类型）窃取她的身份。Daisy只需要等待诈骗者打电话过来。“她不会睡觉，也不会吃东西，所以她随时准备接电话，”O2的一位代表告诉我。Daisy一次只能处理一个电话，但在几个月的时间里，她与近1000名诈骗者进行了交流。她的目标是尽可能长时间地提供虚假信息或让他们留在电话上。

随着这个类人聊天机器人与更多诈骗者互动，公司会根据哪些有效、哪些无效来训练人工智能。“每次他们提到‘黑客’这个词，我们就改变人工智能，让它基本上把‘黑客’听成‘零食’，然后她会详细讲述她最喜欢的饼干，”代表告诉我。这些互动导致了一些有趣的回应，随着骗子对机器人越来越沮丧。“当你知道这是人工智能时，这很有趣。但实际上，这可能是一个脆弱的老年妇女，随着通话的进行，他们对她的说话方式相当令人震惊，”公司说。

O2在英国著名的反诈骗者Jim Browning的帮助下创造了Daisy，以提高人们对诈骗手段的认识。据O2发言人称，Daisy运动的重点是推广英国热线7726，客户可以通过该热线报告诈骗电话和信息。但尽管每次通话都浪费了诈骗者的时间，公司承认这不足以减少欺诈和身份盗窃。大多数情况下，诈骗者来自巨大的呼叫中心，无数工作人员日夜不停地拨打。要保持像Daisy这样复杂的机器人运行来阻止他们，需要巨大的资源。

尽管Daisy不再愚弄诈骗者，但这个机器人作为一个原型，探索了人工智能辅助的反欺诈斗争，公司对这项技术的未来仍然持乐观态度。“如果我们想大规模进行，我们需要数万个这样的角色，”O2说。但如果你能创造出足够的AI机器人来屏蔽数千个来电呢？这正是澳大利亚某家科技公司正在尝试的事情。

—

**Apate，欺骗之神人工智能**

在一个阳光明媚的下午，在悉尼，Dali Kaafar正和家人外出时，他的手机响了。他不认识这个号码，虽然他通常会忽略这样的来电，但他认为他可以通过与诈骗者玩乐来制造一些喜剧效果。Kaafar，麦考瑞大学网络安全中心的教授兼执行董事，假装自己是一个天真的受害者，让骗局持续了44分钟。但Kaafar不仅是在浪费诈骗者的时间；他也在浪费自己的时间。为什么他要这么做，当技术可以为他完成这项工作，并且规模更大？

这就是Kaafar创立Apate的催化剂，Apate是一个由人工智能驱动的平台，通过欺诈检测情报解决方案自动拦截和破坏骗局操作。Apate主要位于澳大利亚及其他几个地区，运营机器人在多个渠道上与诈骗者保持互动和分散注意力，包括短信和WhatsApp等通信应用程序。

在一段语音片段中，你可以听到Apate的机器人在浪费诈骗者的时间。由于人工智能可以模仿世界各地的口音，几乎无法分辨机器人和真人。亲自听听看——你能分辨哪个是机器人吗？

公司还利用其人工智能机器人窃取诈骗者的策略和信息，与银行和电信公司合作，完善其反欺诈能力。例如，Apate与澳大利亚最大的银行CommBank合作，帮助支持其欺诈情报并保护客户。Kaafar告诉我，当他们开始原型制作机器人时，他们大约有120个不同性别、年龄、个性、情绪和语言的角色。很快，他们意识到需要扩展和增长的规模。

现在，他们拥有36,720个AI机器人并不断增加。与一家澳大利亚电信公司合作，他们每天成功拦截2万至2万9千个电话。然而，仅仅拦截电话是不够的。呼叫中心的诈骗者使用自动拨号器，因此一旦电话被阻断，他们会立即拨打另一个号码。凭借蛮力，诈骗者突破防线找到了受害者。

通过将电话转接到由AI机器人模拟真实对话的程序中，每个机器人有不同的任务和目标，这家公司不仅减少骗局对普通人的影响；同时获取数据并设下陷阱。通过与银行和金融机构的合作，Apate的AI机器人向诈骗者提供特定的信用卡和银行信息。然后，当诈骗者运行信用卡或连接账户时，金融机构可以追踪到犯罪分子。

在某些情况下，Apate的AI“好”机器人对抗“坏”机器人，Kaafar将其描述为“我们理想中的世界”。他说：“这就像是创造了一道盾牌，让这些诈骗机器人无法真正接触到真人。”

—

**用AI对抗AI**

我们经常听到AI被用于邪恶目的，所以看到机器人扮演英雄角色对抗金融欺诈行为是很不错的。但诈骗者也在取得进展。仅在一月份，美国平均每天收到1.53亿个垃圾电话。其中有多少个电话是由AI协助的，目的是窃取金钱或个人数据？根据欺诈专家弗兰克·麦肯纳（Frank McKenna）和《麦肯纳论欺诈》博客的作者的说法，大多数诈骗将在2025年底之前采用AI和深度伪造技术。

YouMail垃圾电话指数

电话诈骗是一个庞大的灰色产业，造成数十亿美元的经济损失，丹尼尔·康（Daniel Kang）说。这就是为什么伊利诺伊大学厄巴纳-香槟分校的研究人员康和其他人开发了一系列AI代理，伪装成诈骗者，测试他们窃取金钱或个人信息的难易程度。他们的2024年研究证明了语音辅助AI代理如何自主进行常见的诈骗，例如窃取受害者的银行凭据、登录账户并转移资金。

“AI在各个方面都在飞速进步，”康告诉我。“政策制定者、企业和个人必须了解这一点。然后他们可以采取措施加以遏制。”

至少，少数独立的AI欺诈斗士正在提高公众对诈骗的认识。麦肯纳说，这种教育很有用，因为普通人可以在骗局发生时看到、理解和识别它们。然而，这不是一个完美的解决方案，尤其是考虑到骗局的数量巨大。

“仅仅依靠这些随机聊天机器人浪费诈骗者的时间——骗局的规模太大，这种方法根本不够有效。它们是非常有用的工具，但我们不能单独依赖它们，”麦肯纳告诉我。

根据麦肯纳的说法，在这些努力的同时，科技巨头、银行和电信公司应该做更多来保护消费者的安全。例如，苹果公司可以轻松地在其设备中加入AI来检测深度伪造，但组织机构在使用AI方面过于保守，这可能涉及法律和合规问题。

“这是一个黑盒子，”麦肯纳说。这种复杂性让天平偏向诈骗者一方，而许多银行和其他金融机构则落后了。

与此同时，AI的进步推动了一些企业开发更强大的反欺诈网络安全。例如，Sardine为银行和零售商提供软件，以检测用于创建账户的合成或被盗身份。它的应用程序可以实时检测深度伪造，如果设备看起来像机器人，银行会收到警报并阻止交易。

根据获奖的网络欺诈专家和《欺诈学》播客主持人卡丽丝·亨德里克（Karisse Hendrick）的说法，银行拥有客户的财务数据和模式，可以与AI一起使用以防止黑客攻击或盗窃。分析基于消费者的算法以检测异常行为，一种行为生物特征，可以帮助标记潜在的欺诈性交易。

与此同时，AI的进步推动了一些企业开发更强大的反欺诈网络安全。例如，Sardine为银行和零售商提供软件，以检测用于创建账户的合成或被盗身份。它的应用程序可以实时检测深度伪造，如果设备看起来像机器人，银行会收到警报并阻止交易。

当诈骗者使用AI实施欺诈时，唯一阻止他们的方法就是以其人之道还施彼身。

“我们真的必须以彼之道，还施彼身，”亨德里克说。

(以上内容均由Ai生成)