我的看法：关于 GenAI 如何在 RSAC 2025 前夕改变网络安全紧张局势的笔记

快速阅读: 据《安保大道》最新报道，网络安全专家探讨生成式AI对安全领域的双重影响，既被恶意分子利用扩大攻击规模，也被防御者用作增强安全的工具。成功的关键在于合理利用AI，平衡自动化与人工判断，提示工程成为核心技能。作者强调，网络安全将以人为中心，结合新技术，开创安全防护的新工艺。

我的看法：生成式人工智能如何在网络安全中重新定义紧张局势的观察
布赖恩·V·阿科迪撰文旧金山——报道的第一条规则是追随紧张局势线——即那些旧有假设不再完全适用的地方。
我最近感受到了这种紧张。刚刚来到这座海湾之城，与超过四万名网络安全专家和公司高管齐聚莫斯康中心参加RSA大会2025。

过去二十年来，我参加RSA大会时面临的风险缓解挑战并未发生根本性的变化，只是加剧了。然而，大语言模型和生成式人工智能的出现以一种全新且令人困惑的方式改变了局面。

是的，恶意行为者迅速利用生成式人工智能扩大了他们经过验证的攻击规模。好消息是，善良的人们也在这么做。“逐步地，而且大多是在幕后，语言激活的人工智能开始重塑网络防护。”

调整大语言模型
最近几周，我与一群创新者进行了交流，他们都系统地努力调整大语言模型和生成式人工智能，以作为防御的力量倍增器。

Corelight首席执行官布莱恩·戴伊告诉我，这个领域正在分化：较小的安全团队正匆忙采用供应商策划的人工智能，而大型企业则启动了自己的定制大语言模型。

Deepwatch首席执行官约翰·迪卢洛是一家专注于高保真安全运营的托管检测和响应公司，他意外地发现：经过仔细隔离和人工验证的大语言模型在生成事件报告方面已超过初级分析师——更加一致、更加准确、错误更少。

A10 Networks安全传道者詹姆森·厄特提供了另一种视角：对手正在飞速前进，利用人工智能制造恶意软件，并以人类脚本编写者无法匹敌的速度协调攻击。他指出，防御者必须同样具备适应性——不仅要学会运用人工智能，还要以它的自然节奏思考。

这里有一个模式。

网络安全解决方案提供商开始在其战场的一角发现，掌握现在需要一种新的直觉：
• 何时信任机器的第一稿。
• 何时再次检查它乐观的近似值。
• 何时放弃流畅性以换取摩擦。

了解我的机器
这与我发现使用ChatGPT-4o作为自己的报道助手时的情况非常相似。

起初，这个工具感觉像是一种加速剂——一种更快起草、更多关联、快速测试想法的方式。但随着时间推移，我了解到速度本身并不是重点。重要的是知道什么时候依赖机器——什么时候远离它。

迄今为止，我与之交谈过的网络安全创新者正在内化类似的教训。

戴伊
戴伊的团队将人工智能视为一个分诊引擎——在常见的攻击路径上表现得非常出色，但在细微之处重要的曲折道路上却不可靠。“帮助我在减少投入的情况下做更多的事情是网络安全行业最持久的问题之一，”戴伊观察到。“‘帮助我用英语理解这个警报意味着什么’实际上可以非常有价值，而这正是人工智能模型做得非常好的事情。”

迪卢洛的分析员现在信任人工智能来构建报告的框架——但知道在发送前检查每个细节。迪卢洛指出，在网络安全中，做出有根据的推断至关重要——而大语言模型在这一过程中表现出色，高效地以普通人可能难以理解的英文形式呈现见解。

厄特的同事已经开始利用基于人工智能的遥测数据——但仅在认真考虑如何约束这些工具之后。

有意地协调其角色
在每种情况下，校准都是隐藏的技能。不仅仅是部署人工智能，而是有意地协调其角色。不是放弃判断，而是提升判断力。

明天，当我步行在RSA展会上继续这些炉边谈话时，我预计会听到更多这种不断演变的艺术形式的版本。

那些将繁荣发展的供应商不是那些将人工智能视为灵丹妙药或威胁的人。他们是那些将其视为实际本质的人：一个强大但易出错的伙伴。一个新的指南针——有用，但需要一只稳定的手来导航磁性畸变。

这不是以人为中心的安全的终结；这是新工艺的开端。

如果早期的迹象有任何指导意义，那么下一章的安静天才不会在炫目的演示或病毒式的头条新闻中找到。

提示工程是关键
正如A10的厄特所指出的，这是一项越来越依赖提示工程师的技艺——实践者擅长塑造人工智能输出而不放弃判断。那些掌握提出更好问题艺术的人，而不是仅仅接受更快答案的人，将设定新的标准。

相反，它会在训练有素的SOC分析师从嘈杂的警报队列中引导出隐藏线索的方式中显现出来。

或者在供应商团队在其人工智能管道中嵌入隐形摩擦检查的方式中显现出来——不是为了减缓速度，而是确保正确的事情通过。

机器可以加速流程，但人类仍将塑造方向。

厄特观察到：“我认为提示工程是理解如何充分利用人工智能的关键。”