AI 和网络安全：平衡创新与谨慎

快速阅读: 《独立的尼日利亚》消息，索菲斯CTO阿龙·布加尔指出，人工智能在网络安全中既是助力也是隐患。虽然它提升了安全工具的能力，但也可能被黑客滥用。企业需谨慎采用人工智能，确保其安全性和有效性，避免潜在风险。通过透明的供应商选择、针对性投资和人机协作，可最大化其益处并防范风险。

索菲斯亚太区首席技术官阿龙·布加尔表示，近几十年来最具影响力的技术之一无疑是人工智能的崛起，它引起了个人、组织和国家的不同反应。随着我们探索其潜力，担忧也逐渐增加，因为人工智能对就业构成了威胁，并在全球范围内展开了关于如何对其进行监管的讨论。然而，对于网络安全专业人士来说，人工智能是一把双刃剑。尽管人工智能通过模式识别、总结和辅助能力增强了网络安全解决方案的能力，但它也为威胁行为者以更邪恶的方式利用这项技术打开了大门。因此，在一个我们不断努力超越网络犯罪分子的世界中，人工智能将产生何种影响，特别是在其不断发展演进的过程中？

新技术意味着新威胁，网络犯罪分子证明了他们不可小觑。他们不断更新战术、策略和工具来攻击企业，而人工智能只会强化他们的武器库。人工智能通常被用来帮助威胁行为者更好地模仿真实的人类——篡改声音、图片和信息以实施逼真的网络钓鱼攻击。除了模仿人类行为之外，网络犯罪分子已经开始在技术层面实验人工智能。恶意GPT已在网络犯罪市场中被宣传，具备自动化渗透测试或恶意软件开发等功能。然而，与合法行业和企业类似，当涉及将技术应用于运营时，网络犯罪分子仍然存在一些犹豫，因为威胁行为者主要是在实验和概念验证的环境中探索生成式人工智能。这并不意味着组织应将其视为放缓步伐的理由，因为人工智能不可避免地将成为网络攻击的常见特征。

相反，企业应评估是否正在以安全且最佳的方式在其网络安全架构中使用该技术。采用人工智能不是为了领先，而是为了明智。各类规模的企业都在研究如何应用人工智能。索菲斯发现，98%的组织在其网络安全架构中以某种形式采用了人工智能。此外，65%的组织使用具备生成式人工智能功能的网络安全解决方案，73%的组织使用包含深度学习模型的解决方案。

虽然人工智能在网络安全中的采用可以带来许多优势，但如果方法不当也会引入一系列风险。如果输入不当，不良实施的人工智能模型可能无意间引入重大网络安全风险。组织对此风险保持警惕，绝大多数（89%）的网络安全专业人士表示，他们担心潜在缺陷可能对网络安全工具的生成式人工智能能力造成损害，其中43%的人表示他们非常担心。这种警惕性同样适用于非网络安全相关工具中应用的人工智能，因为在技术发展初期就可能带来威胁。例如，代理型人工智能近期成为热议话题，但一种从人类身上学习的技术能否充分防御网络威胁？目前，人工智能应被视为只能服务于单一目的，期望单一系统或“人工智能代理”在极少的人类干预下完成所有任务是危险的。

因此，组织的人工智能发展——无论是在网络安全基础设施还是整个技术栈中——都必须在有保障措施和全面监督下进行。规避网络安全系统中的人工智能风险是可行的，只要实施时足够谨慎即可。这可以通过以下方式实现：

– **了解供应商的人工智能能力**：人工智能需要透明度，了解网络安全供应商的数据训练方式、专业人员知识及部署流程将有助于描绘出人工智能开发的最佳实践。

– **优先考虑具体的人工智能投资**：人工智能投资不能急于求成，因此重要的是评估人工智能是否能为当前的网络安全挑战提供最佳解决方案，优先考虑具体的人工智能投资，并在人工智能实施到网络安全基础设施后评估其影响。

– **在采用人工智能时始终以人为本**：组织不应采取一成不变的方法来处理网络安全问题，尤其是在涉及人工智能时更是如此。最终，网络安全是一项人类职责，人工智能应作为加速器来支持网络安全专业人员，而非替代品。

人工智能将在组织中长期居于主导地位。网络安全也不例外，但由于风险如此之高，正确使用人工智能至关重要，否则它会偏离初衷——在网络犯罪分子在这场持续的战斗中给组织带来优势。这不是扩展您的网络安全基础设施范围，而是满足您网络安全需求的恰当能力。

(以上内容均由Ai生成)