AI安全工具表面光鲜，实则无力应对真实威胁

快速阅读: 新兴安全初创公司宣称通过“代理”和“人工智能”改进安全系统，但实际上大多只是现有技术的新包装，缺乏实质性创新，未能有效帮助安全团队识别关键威胁。

近来，似乎每一家新兴的安全初创公司都在说同样的话。它们声称通过“代理”重新设计了检测与响应系统，利用“人工智能”解读安全数据，能够在您的技术栈中“连接各个点”。这些公司的网站看起来非常出色，承诺也十分大胆。然而，当您真正看到演示时，这种幻觉就会破灭。大多数工具只是现有技术栈上的薄层，旨在以新的用户界面重新包装发现和警报。最好的情况下，它们运行几个增强步骤，给您提供一个更长的调查清单。

您可能感兴趣的文章：

– 作为一名人工智能专家，这里是如何区分真正的AI创新与市场炒作的方法

– 生成式AI的自满如何成为网络安全的隐性危机

– 代理型AI的安全风险虽然具有挑战性，但解决方案却出奇地简单

最糟糕的情况是，它们甚至没有过滤掉噪音，只是将其格式化并“增加上下文”（实际上，这使得内容更长且难以消化）。我们直接从那些经历过与供应商合作周期的团队那里听到这一点：令人印象深刻的网站，自信的介绍，令人失望的演示。每次都会提出同样的问题：“就这些吗？这就是全部吗？”

这对买家乃至整个行业都是一个真正的问题。在安全团队确实感到压力山大、预算紧缩、人才稀缺的时候，我们无法承受更多看起来聪明但实际上并不工作的工具。

当内部没有任何实质内容时

“用于安全的人工智能”听起来很有变革性……直到您看到它实际运作。我们与那些体验过最新“AI原生”平台演示的团队交谈过，结果发现该系统只是重述了所接收的数据。例如，CrowdStrike的警报变成了整洁总结的CrowdStrike警报，加上其他警报。漏洞扫描报告变成了……更长的漏洞扫描报告。

这些团队希望得到帮助，了解哪些才是真正重要的。而他们得到的却是对同一堆难以解读的输入的不同封装。

这些工具通常会收集来自您技术栈的所有警报，运行一些增强程序，然后将这些数据标记为“有上下文”的堆回给您。这些系统经常自称为优先级引擎或副驾，但其内部逻辑通常是模糊的，输出很少具有可操作性。即使是在演示中展示的功能，在真实数据下也会失效，因为现实中的数据远不如营销案例那么干净。正如我们的一位客户最近所说：“这个工具错了吗？不。但它也没什么用。”

开发这些工具的团队正在尽最大努力解决实际问题。但正如任何在安全领域工作足够长时间的人都知道的那样：除非您的工具真正理解您环境中的情况，否则没有捷径可以实现有效的决策。而大多数这些工具并不具备这样的能力。

超越封装所需的因素

如果您正在评估声称“利用人工智能”的安全工具，不妨退一步思考：到底完成了什么工作？

封装工具可以整合来自其他平台的输出，将其重新格式化为自然语言，并通过聊天界面显示，但这与交付成果不同。

以下是您应该寻找的特征：

– 真正的系统记录集成：工具应能直接与您基础设施的实际系统接口，拥有自己的“大脑”，而不是仅仅依赖其他供应商的信号。没有这种深度，“洞察”就只是重新包装的通知。

– 定义明确的自主工作流程：询问工具是否按计划运行，独立提供结果，并能在无需持续提示的情况下推动行动。如果每次都需要询问，那它只是一个聊天机器人。

– 基于实际状况的决策：封装工具可以重复其他工具的说法。而更智能的系统则能够理解这些信号与您的云状态、风险概况、合规状态之间的关系。它可以解释为什么某件事重要以及应该如何应对。

– 可见且可重复的结果：工具能否展示其工作过程？它能否解释为何优先考虑某个风险而非另一个，或者它是如何得出建议的？真正的情报应该是可检查的。

– 不仅仅是摘要，而是答案和行动。

你寻找的不是内容生成器，而是伙伴。这意味着需要提供结构化的输出，而不仅仅是更好的措辞。

最实用的工具会以团队可以采取行动的格式提供结果，例如优先级排序的处理队列、可直接分享的合规报告或与环境相匹配的补救指导。这些输出帮助安全团队将精力集中在关键点上，并在各利益相关者之间清晰沟通。