要保护 AI，请开始像攻击者一样思考

快速阅读: 据《ITProtoday.com》最新报道，世界经济论坛报告指出，66%企业认为AI将影响网络安全，但仅37%评估其安全性。AI系统易受提示注入等攻击，需加强安全测试与管理。

据世界经济论坛最新报告，7月10日，全球范围内，人工智能的迅速发展带来了显著的创新，同时也暴露出明显的网络安全挑战。报告显示，66%的企业认为AI将在未来一年对网络安全产生重大影响，但目前仅有37%的企业在部署前评估AI工具的安全性。这一现象揭示了一个危险的悖论：企业普遍认识到AI带来的安全风险，却缺乏充分的准备。

AI系统的快速普及使得生成模型、自主代理和AI增强服务广泛应用于各行各业，但这些系统的安全性尚未得到充分保障。报告指出，AI系统的非确定性和概率性特点，使其面临新的攻击手段，如提示注入、越狱和模型提取等。这些攻击不仅技术门槛低，而且容易实现，即使是非专业人士也能成功实施。

例如，近期有报道称，记者通过在网页中嵌入不可见指令，成功使OpenAI的ChatGPT生成误导性输出，甚至返回恶意代码。这表明，AI系统可能在不经意间成为网络攻击的目标，对企业和个人造成严重威胁。

为了应对这些挑战，专家建议企业应采取更加全面的安全措施。OWASP和MITRE等框架虽然有助于分类风险，但需要结合具体应用场景制定更为细致的防护策略。此外，AI系统的安全测试应贯穿整个开发和部署过程，确保在运行时能够有效抵御各种攻击。

报告强调，AI安全不仅是一个技术问题，更是组织管理的重要组成部分。缺乏有效的安全测试将直接影响企业的运营安全、业务连续性和客户信任。特别是在金融、医疗和关键基础设施等受监管行业，任何安全漏洞都可能导致严重的后果。

彼得·加拉根博士，Mindgard公司的首席执行官兼联合创始人，表示：“AI的安全瓶颈并非缺乏意识，而是缺乏行动。我们需要将传统的安全工具和方法升级，以应对未来的风险。” Mindgard公司致力于开发先进的AI安全测试工具，帮助企业更好地保护其AI系统免受新型威胁。

(以上内容均由Ai生成)