AI 与网络犯罪分子：谁在下一代威胁检测领域获胜？

快速阅读: 据《安保大道》最新报道，网络安全面临复杂威胁增长，AI成为应对关键。混合人机操作更有效，AI助人类发挥优势，防御需善用AI提升效率与创造力，确保系统安全与信任。

我们正面临网络威胁复杂性的空前增长。根据IBM发布的《2024年数据泄露成本报告》，全球数据泄露事件的平均成本飙升至488万美元，较去年激增10%，这是自新冠疫情以来的最大增幅。其中，恶意内部人员攻击的成本最高，每起攻击的平均损失达到499万美元。而面对安全人员短缺的组织，其平均成本比安全人员充足的组织高出176万美元。

作为一名专注于网络安全自动化与威胁情报的软件开发工程师，我目睹了这场技术军备竞赛如何重塑安全运营，并对网络安全的未来发展构成了威胁。对抗性人工智能的兴起使网络犯罪分子能够绕过传统的检测系统。他们不再依赖蛮力攻击或已知漏洞，而是开发出更为复杂的手段，以操纵旨在捕捉他们的机器学习模型。这些方法既复杂又令人担忧。它们涉及研究安全人工智能系统的决策过程，然后利用这些知识构建更加高效、更具破坏性的恶意软件。

安全人工智能系统被设计用于分析海量数据，使得安全团队能够了解正常用户或系统活动的模样。然而，当攻击者构建其恶意软件时，他们如今已经学会如何规划，并且常常成功地规避安全团队通过大数据分析来识别威胁的努力。尽管我们的机器学习模型尚未受到直接攻击，但在设计系统之初我们就已考虑到这种潜在威胁。在我的工作中，我们基于最新的威胁情报不断重新训练模型，并采用对抗性测试来模拟攻击者试图规避检测的方式。我们使用异常检测、上下文风险分级和行为分析，而非静态签名。这确保了即便攻击者尝试改变输入以绕过安全措施，我们的系统依然能够识别异常活动。通过结合多种检测系统，我们大大降低了攻击者愚弄我们的AI模型的可能性。

当下，安全运营所面临的现实十分严峻。无论人类分析师多么才华横溢，都无法处理实时涌现的海量威胁。与我同行的其他专业人士一样，我也见证了这一差距正在稳步扩大。安全运营中心每天面临数百万个事件，进行全面的手动审查在数学上已不可能实现。Mandiant在2024年的研究表明，企业安全运营中心平均每天处理11,000个警报，而分析师只能彻底调查其中不到4%的信号。尽管人类分析有时需要几分钟甚至几小时，现代攻击却能在短短几秒内完成。威胁态势的发展速度太快，即便是最敬业的分析师也难以保持全面的警觉；持续的警报认知负担不可避免地导致疲劳和遗漏信号。我们所处的是一种本质上的不平衡状态：攻击者只需成功一次，而防御者则必须每次都做到完美。当威胁行为者自动化其攻击时，正如他们今天越来越多地做的那样，由人类组成的安全团队发现自己陷入了一个永无止境的循环，始终落后于威胁，并且拼命通过分析攻击者留下的痕迹来追赶。

自主学习的AI系统在当代安全操作中展现了最大的潜力，因此它们更能适应新出现的威胁。它们不仅仅是人工智能革命的下一步，更是网络安全的未来。它们通过超越传统方法，使用某种意义上的“DNA”来检测恶意活动和异常行为。在开发可扩展的安全解决方案时，我专注于构建利用这些能力的系统，以便在攻击链条的早期阶段检测威胁。有效的AI安全模型会从新数据中持续学习，适应新兴的攻击向量，而无需人工干预。它们擅长识别看似无关事件中的细微模式，并能在攻击完全执行之前预测潜在的攻击路径。或许最重要的是，这些系统可以在精心定义的参数范围内作出反应；它们能够实时控制威胁并将异常事件升级给人类审查。这种自动化与监督的平衡可能是有效安全操作的未来。

我在数据分析方面最重要的项目之一是开发了一种基于AI的威胁情报系统，该系统使用大型语言模型（LLMs）不仅实现了威胁研究的自动化，还增强了其深度。这种方法不需要人工评估攻击数据或应用检测算法，使我们能够将调查时间从八小时缩短至仅一小时。它实时生成可操作的检测模式，质询威胁情报来源并整合关键指标。这意味着坏人利用任何安全疏忽的机会减少了，因为好人现在能够更快地响应传入威胁。

然而，也存在挑战。AI系统可以从其训练数据中继承偏见，这可能导致忽略那些不符合预期模式的威胁。这在网络安全中尤其危险，因为新型攻击可能看起来与历史示例完全不同。实时处理也带来了重大障碍，因为有效的安全需要对大规模数据流进行最小延迟的分析。即使是轻微的延迟也可能意味着阻止攻击和响应漏洞之间的差异。我在自动化安全工作流程和提高系统可观测性方面的经验教会我解决这些问题需要多种不同的工具和技术。一方面，能够解释自己及其决策原因的AI能让我们的安全分析师更快地评估警报的有效性。另一方面，我们确实离不开一个逐层递进的告警结构，每一层在计算上都更加密集。这有助于我们在速度和彻底性之间取得良好的平衡。我们使用多层风险评级方法来最小化误报，为每个警报赋予基于上下文的分数，这意味着我们不会将每个标记事件视为同等重要，而是将其放在整体情况的背景下来看待。这种方法符合NIST网络安全框架2.0的更新风险评估方法，强调基于资产价值和环境变量的威胁情境评估。例如，如果有人试图从有可疑行为历史的地方入侵计算机，那么这个标记事件比有人试图从已知安全地点入侵计算机要重要得多。此外，如果有人试图入侵一台具有各种安全功能的笔记本电脑（比如一台位于密码保护的封闭社区中的电脑），那么这个尝试在我们看来比有人试图入侵一台放在厨房桌子上的一台电脑要重要得多。

未来不会带来AI是否会改变网络安全的问题，而是带来这种转变将如何完全发生以及谁将在维护转变后的系统中占据优势的问题。根据云安全联盟2024年的研究，《云计算十大威胁：大流行十一》指出，转向AI驱动安全的组织在云环境中面临一个关键的适应期，威胁进化速度比传统基础设施快五倍。在后量子防御中，主要是AI而不是人类在发号施令。这究竟是好事还是坏事则是另一个问题。

最有效的安全系统将是那些结合AI和人类大脑的系统。安全是一个很好的领域应用，因为处理能力和模式识别是计算机——或者在这种情况下是AI——擅长的事情。但当涉及到需要更多技巧的决策时，我们宁愿让人类值班。CSA的研究进一步表明，混合的人机安全操作对新型基于云的威胁的韧性比完全自动化的或完全人为的方法高76%。毕竟，我们付钱给人们不仅仅是为了做计算机能做的事情。当涉及到抵御未来的系统攻击时，一个具有创造力的人类——无论是天然的还是人工的——将比我们能设计出的任何机器都更能理解潜在攻击者的心理，并想象他们可能会想出的各种情景。

在我通过自动化和AI驱动智能提升安全操作的工作中，我认识到一个好的防御体系维持着这样的平衡：利用AI帮助人类做他们最擅长的事（并且做得更好）。相比之下，人类做他们必须做的事（并且做得比任何AI都好）。这样既能提升安全团队的有效性，又能允许必要的创造性思维来领先于曲线。AI最终将帮助防御者，但前提是它得到广泛应用。目前，攻击者可以更快地工作，因为他们不必担心道德和合规限制。然而，当我们看防御者的资源时，我们应该是那些在“信任速度”下工作的。防御者拥有比攻击者更大的数据访问权限、计算能力和自动化机会。防御者正确的做法是弄清楚如何以一种使其作为可信系统运行的方式整合AI。在当前资源约束下（这些约束是真实的）我们是否能做到这一点可能是为什么我们应该投资于AI而不是仅仅将其视为可以用来对付我们的东西的主要论点。

(以上内容均由Ai生成)