AI驱动邮件钓鱼新威胁，企业如何应对
快速阅读: 人工智能提升网络钓鱼攻击效率，传统邮件安全系统难以应对。专家建议采用基于意图的检测方法，以识别恶意行为并保护中型市场组织免受高级攻击威胁。
人工智能如何驱动电子邮件网络钓鱼及应对之策 [问答]
伊恩·巴克尔 发布于5分钟前 无评论 分享
在各种形式的网络攻击中，通过电子邮件实施的网络钓鱼仍是最常见的。更为严重的是，人工智能正在使这些攻击变得更加有效，因为人们不能再依赖识别可疑语法或其他迹象来判断邮件的真实性。
我们采访了StrongestLayer的联合创始人兼首席执行官艾伦·勒福特，以了解人工智能是如何改进网络钓鱼攻击以及组织可以采取哪些措施来对抗这种威胁。
BN: 在人工智能生成的网络钓鱼攻击规模超越传统电子邮件安全系统设计初衷时，企业遇到了哪些安全漏洞？
AL: 生成式人工智能的兴起彻底改变了网络威胁格局。攻击者现在利用被破解的语言模型生成数千封个性化且具有上下文感知能力的网络钓鱼邮件——这可以在短时间内大规模完成。这些消息能够规避传统检测手段，因为它们不会重复使用内容、遵循可预测的结构或表现出统计异常。
传统的电子邮件攻击主要依赖大量发送且显而易见。然而，人工智能彻底改变了这一游戏规则——攻击者现在能够生成个性化的邮件，这些邮件不仅理解组织架构，还能模仿通信风格并引用实际业务流程。他们不再只是发送通用的钓鱼邮件；而是针对特定组织精心设计攻击，使其看起来非常真实。
最大的漏洞在于，传统电子邮件安全一直侧重于检测‘不良’技术模式，但人工智能攻击虽然技术上看似良好却意图恶意。遗留系统如同只有检察官的法庭——只能寻找有罪证据而无法证明清白，这导致了经典的误报/漏报矛盾，这是在只有检察官的架构内永远无法解决的问题。
例如，我们最近发现了一起由人工智能生成的人力资源冒充活动，该活动利用Unicode双向文本操作显示‘官方通知：绩效评估访问’，而实际文本是反向的，完全绕过了正则表达式模式匹配。这次攻击结合了拼写相似的域名、关于‘标记为红色的解雇’的心理操纵以及对内部人力资源沟通的完美模仿。传统安全系统试图检测可疑的Unicode使用情况，但这会为合法的阿拉伯语、希伯来语和其他从右到左书写语言的商业通信造成大量误报——迫使组织在错过复杂攻击与不断调查合法国际通信之间做出选择。
BN: 随着威胁行为者越来越多地利用生成式人工智能创建个性化、上下文感知的网络钓鱼活动，这对中型市场组织面临的检测挑战有何影响？
AL: 中型市场组织陷入了日益扩大的安全缺口。他们面临企业级别的攻击复杂度，却没有相应的企业级别资源。由于SOC（安全运营中心）容量有限、没有内部威胁情报以及警报疲劳加剧，这些团队在面对人工智能支持的商业电子邮件欺诈（BEC）、供应商欺诈和深度伪造等高级攻击时显得尤为脆弱。
具有复杂供应商关系和审批流程的组织风险最高——特别是金融服务、医疗保健和法律公司。中型市场公司面临着特定的挑战：他们有企业级别的义务和复杂性，但缺乏相应的安全人员和预算。他们足够成熟，成为吸引人的目标，但由于资源有限，高级攻击往往得逞。
电子邮件是日常信任决策发生的地方。员工经常收到来自供应商、合作伙伴和同事的要求，需要对这些请求的真实性做出判断。人工智能驱动的攻击正是利用了这些信任关系，通过看似来自已知实体且带有合理请求的方式进行。
BN: 规则基础的电子邮件安全标准已经存在了几十年，但您提到‘规则失败’在人工智能威胁时代。从模式匹配转向基于意图的检测如何改变电子邮件环境的安全态势？
AL: 传统的‘零号病人’模型——检测、分析和反应——在现代多态性威胁的压力下已经崩溃。这些攻击是在实时中生成并优化的。唯一可行的防御方法是一个能够理解恶意意图的系统，而不仅仅是匹配已知指标。
我们构建了首个LLM（大型语言模型）作为主架构，这与那些在现有模式匹配系统上附加LLM功能的供应商完全不同。我们的突破在于双重证据收集，完全打破了只有检察官的范式，让每封邮件都有机会接受公正审判。我们的系统既充当公共辩护人也担任检察官，而一个公正的LLM法官则权衡证据并作出裁决。
这一转变从根本上改变了电子邮件安全的经济模式。传统的系统在遇到紧急语言、大金额、非工作时间戳时会隔离合法的商业通信，而我们的双重证据架构则并行运行调查，专注于那些即使攻击手法新颖也始终存在的稳定指标——商业合法性模式和恶意意图模式保持一致。
随着业务电子邮件欺诈攻击通过人工智能生成变得越来越复杂，安全团队在比较传统基于签名的保护模型与推理驱动的电子邮件保护模型时应考虑哪些实际问题？
传统的基于签名的系统相比由人工智能支持的推理系统，其精度仅为5%到30%，而后者可达到95%的精度，并大幅减少误报。传统的邮件网关主要关注事后检测，而推理驱动的系统提供实时威胁检测和风险优先级排序。
关键的实际考量是，虽然人工智能使得攻击生成无限扩展，但它并不能解决攻击者的业务逻辑问题。人工智能可以创建完美的语法，模仿沟通风格，引用关于组织的公开信息，但它无法完美理解每个组织内部的业务流程、审批流程、合同周期以及关系动态。
安全团队应评估那些侧重于业务合理性而非技术模式的系统。随着人工智能攻击在其技术表现上变得越来越复杂，它们在业务逻辑上往往变得更加迫切——制造不必要的紧迫感，绕过正常程序，或请求与既定关系不符的行为。与需要数天配置和调优的传统产品不同，推理驱动的系统无需规则或阈值设定，能够立即适应您的环境，以机器速度将威胁分析师的判断力带给每个邮箱。
未来两到三年内，人工智能驱动的攻击自动化与企业及中型市场安全资源之间不断扩大的成熟度差距将如何影响电子邮件威胁检测的发展？
到2026-2027年，复杂的AI增强型攻击将成为主流，而不再是高级持续威胁领域。工具和技术将商品化，显著扩大威胁行为者的群体。我们还将看到攻击范围从电子邮件扩展到所有业务沟通渠道——Teams、Slack、移动消息传递，攻击者将在多个渠道协调活动。
这种演变将使像推理驱动的电子邮件保护这样的工具成为企业环境中的默认控制层。微软Entra互联网访问等主要平台已经在推出针对AI流量的内联、预提交控制。当这些措施与行业对AI生成威胁的共识相结合时，可以合理预期围绕通信的AI感知检测将成为身份和访问管理及端点检测响应之外的默认控制层。
另一个重大变化将是利用组织内部AI采用的攻击。随着公司部署AI工具用于业务流程，攻击者将针对这些集成和数据流。最终的发展趋势是，组织不再将电子邮件安全视为一个单独的问题——它只是业务沟通方式的一部分，自动保护组织的同时促进在AI驱动世界中的生产力。
图片来源：Josepalbert13 / Dreamstime.com
标签：人工智能（AI）、网络攻击、网络安全、电子邮件、钓鱼、问答
(以上内容均由Ai生成)
