Darktrace：大多数公司都面临 AI 网络威胁的危险风险
快速阅读: 据《城市 AM》最新报道，深信服警告企业须防范网络威胁，指许多企业未做好基础防护却急于用AI工具。专家强调基础安全措施、特定领域AI及透明性的重要性，提醒企业不应盲目跟风采用通用AI工具。
深信服发出警告：企业需防范网络威胁
随着人工智能快速重塑网络安全格局，许多企业仍在危险中准备不足，忽视了基础实践，却急于采用AI工具。
在伦敦科技周周二的活动上，业内和政府的顶级声音警告称，如果没有做好基本工作，即使是最先进的AI解决方案也无法发挥作用。这一声明紧随一系列针对英国零售业的网络犯罪事件之后，本土巨头玛莎百货（M&S）和哈罗德百货（Harrods）遭遇了破坏性的数据泄露。
虽然攻击者正在利用AI自动化网络钓鱼、加速入侵并生成逼真的恶意软件，但许多组织仍未实施用户访问管理或系统分割等基础控制措施。
深信服、国家网络安全中心以及政府的领导人都认为，这种脱节可能导致AI从有前景的防护手段变成一种危险的虚假安全感。
“其中一项基础就是用户访问管理，尤其是对特权用户的管理，”深信服技术总监大卫·帕尔默（David Palmer）表示。
“仅仅因为有人点击了一个网络钓鱼链接，攻击者就不应该能够成为系统管理员。”
遗留技术和薄弱的网络安全规划
小组成员指出，部分问题在于过时的基础设施和不愿投资于长期韧性。遗留系统继续被利用，即便成功抵御攻击的组织也常重蹈短期思维覆辙。
“太多组织在遭受网络攻击后，又回到投资炫酷工具而不是文化变革和韧性的状态，”帕尔默说，“我们从未真正见到对基础升级的投资——这是一大问题。”
尽管网络安全意识有所提升，但董事会通常仍无法评估AI驱动的安全工具，采购决策往往基于炒作而非实质内容。
阅读更多
玛莎百货袭击暴露英国企业长期网络安全后果
“当每个网络安全公司都在盒子上贴上A时，很难防御下一个大事件，”帕尔默说，“你如何区分什么能真正给你优势？”
AI会误导吗？
小组成员反复强调，AI可以是一个强大的倍增器，但只有在谨慎且结合情境的情况下部署才能实现。
更重要的是，一些发言者警告不要过度依赖通用AI模型，例如为聊天或搜索设计的模型，用于高风险的网络安全决策。
“通用AI模型可能会自信地出错，”帕尔默补充道，“我们在其他领域看到了例子，比如航空航天，聊天模型说服工程师他们错了，而实际上并没有。这是危险的。”
更重要的是，一些发言者警告不要过度依赖通用AI模型，例如为聊天或搜索设计的模型，用于高风险的网络安全决策。
相反，企业需要特定领域的AI，训练在相关数据和场景上。这些系统的透明性和可解释性也是至关重要的。
“安全中的负责任AI意味着可解释性，”帕尔默说，“我们需要工具来解释它们在做什么以及为什么这样做，以便我们的专家信任它们并在必要时进行干预。”
相反，企业需要特定领域的AI，训练在相关数据和场景上。这些系统的透明性和可解释性也是至关重要的。
“AI不是万能药。”
议员费丽尔·克拉克（Feryal Clark）呼应了对更明智、更实际部署AI在网络安全防御中的呼吁，强调尽管AI潜力巨大，其价值完全取决于组织如何将其与人和流程整合。
“AI令人兴奋，但它应被视为全生命周期方法的一部分，”她说，“如果我要给房子装新窗户和门，我希望它们装得合适，而且没人有钥匙。当我们考虑保护我们的系统时，也应该如此。”
她还强调，网络安全投资需要匹配威胁的复杂性和经济利益。
“我们在英国有一个蓬勃发展的网络安全行业。企业应与专注于该领域的AI创新者合作，而不是仅仅因为流行就采用通用工具。”
最终，小组达成共识，认为AI只会加剧网络安全威胁，但如果缺乏坚实的基础、深厚的专业知识以及质疑所部署工具的谦逊态度，英国企业可能会解决错误的问题。
“我们在英国有一个蓬勃发展的网络安全行业。企业应与专注于该领域的AI创新者合作，而不是仅仅因为流行就采用通用工具。”
“你不能用单一的AI模型解决网络安全问题，”帕尔默补充道，“但你也不能没有领域专家就开始。两者都需要，”他比喻说，就像公司需要各种员工一样。
阅读更多
玛莎百货、哈罗德百货和合作社袭击暴露英国日益增长的网络安全风险
(以上内容均由Ai生成)
