新版 Gmail、Outlook 警告 – 无与伦比的 AI 攻击突然出现

快速阅读: 据《福布斯》最新报道，电子邮件攻击激增，人工智能生成的攻击愈发难以防范。报告显示，AI攻击效率已超越人类，传统防护措施面临挑战。专家呼吁加强网络安全培训，提升用户识别能力，以应对日益严峻的网络威胁。

你的收件箱现在处于风险之中
努尔菲图摄 via 盖蒂图片社

电子邮件攻击正在激增。但我们可以回顾这段时期，将其视为某种更危险、更可怕事物的开端。几乎所有攻击仍然是人为生成的，即使人工智能优化了文本和图像。这种情况即将改变。全面的人工智能攻击刚刚悄然跨越了一个令人恐惧的里程碑。它们现在已变得不可战胜。仅举一例说明其危险性，谷歌和微软都表示，他们拦截了“超过99%”的目标用户收件箱中的垃圾邮件、网络钓鱼和恶意软件。然而，我们仍然会收到这些邮件，大量邮件成功通过了过滤器和安全网。而且这些邮件甚至不聪明。我最近最喜欢的一个例子是一封来自个人btconnect.com邮箱的邮件，“来自新加坡中央调查局办公室”，然后告诉我必须立即回复“以免印度法律对你采取法律行动”。

福布斯
微软确认Windows用户密码删除——你现在该做什么
扎克·多夫曼
扎克·多夫曼

然而，这样的邮件以及其他无数邮件仍能绕过今天的过滤器和安全措施。更为复杂的“定向钓鱼”攻击表现更好。这些攻击是个性化的，因此需要时间和注意力。虽然数量较少，但成功率更高。这就是人工智能目前所参与的地方，这将是非常可怕的。Hoxhunt的一份新报告警告称，这些由人工智能设计的攻击现在首次能够击败人为攻击。研究人员警告说：“在两年多的测试中，这是第一次”，其人工智能代理“针对数百万全球用户创建了比我们精英人类红队更有效的模拟钓鱼活动”。人工智能击败了人类——而且差距非常明显。

这意味着将人工智能指向目标，然后让它自由地在其社交媒体、领英、公开档案上运作，以推动高度个性化且毫无错误的攻击。并且可以无限扩展规模，针对任何人和所有人，持续不断地进行。数据显示，人工智能攻击正在迅速变得更加智能化。我们并没有变得更聪明，虽然电子邮件平台也部署了新的AI来拦截攻击，但这还不够快。“在2023年，”Hoxhunt说，“人工智能的有效性比人类低31%。”甚至在2024年11月，“人工智能的有效性比人类低10%。”但在上个月的测试中，“人工智能的有效性比人类高24%。”

“在2024年，”Hoxhunt说，“人工智能代理开始用更好的写作风格欺骗更多新手用户。与此同时，人为生成的攻击对接受过超过6个月培训的用户来说比人工智能更有效。到2025年2月至3月，人工智能在所有用户技能水平上超过了人类红队。从2023年到2025年，人工智能相对于精英人类红队的钓鱼性能提高了55%。”

团队表示：“威胁环境已经改变。”“网络钓鱼即服务市场将转向大规模采用人工智能定向钓鱼代理。一旦发生这种情况，大规模网络钓鱼活动的基线质量和有效性将上升到我们目前认为与针对性定向钓鱼攻击相当的水平。”

我们已经看到了来自赛门铁克（见上方视频）和腾睿的类似近期警告，随着这个人工智能攻击噩梦成真。但Hoxhunt的报告表明，人工智能正在快速进步，显然没有任何护栏能阻止它继续发展。

福布斯
iPhone、Android警告——你的数据是否正秘密流向中国？
扎克·多夫曼
扎克·多夫曼

那么，有什么希望可以应对这种情况吗？“我们的研究带来的好消息是，”Hoxhunt说，“仍有时间通过适应性网络钓鱼培训强化人类层面。”行为改变计划可以通过使用人工智能定向钓鱼代理实现极高的参与度和韧性……人工智能是一把双刃剑；既可以用于渗透也可以用于防御，”尽管“随着人工智能技术的不断发展，制作更复杂钓鱼攻击的能力只会增加，使人工智能成为进攻性和防御性网络安全策略中不可或缺的工具。仍有时间，目前只有相对较小比例的网络钓鱼攻击是由人工智能驱动的。但这种情况将会改变。用户的习惯和‘蜘蛛感应’也需要同样快速地改变。今天，我们还没有为此做好准备。问题是，在不可避免的浪潮释放之前，我们是否有时间准备。

(以上内容均由Ai生成)