Microsoft、OpenAI：配备 GenAI 的美国对手
快速阅读: 据《信息周刊》称，微软与OpenAI称，伊朗、朝鲜、俄罗斯及中国正利用生成式AI提升网络攻击能力，双方已联手拦截相关攻击。案例涉及深度伪造、语音克隆等技术，朝鲜“金苏基”等组织被点名。专家强调基础网络安全原则不变，呼吁加强防御措施。AI亦成攻击途径，需创新安全策略应对挑战。
总结：微软与OpenAI警告，多国正利用生成式AI增强对美网络攻击，双方已联手阻截，专家呼吁加强基础网络安全防御。
微软和OpenAI表示，伊朗、朝鲜、俄罗斯和中国已经开始利用生成式人工智能（生成AI）增强其对美国的网络攻击能力。两家公司在周三于微软官方网站发布的博客文章中提到，他们共同检测并阻止了利用其AI技术的攻击。公司列举了几个具体攻击案例，这些攻击利用大型语言模型来提升恶意社会工程努力，导致更出色的深度伪造和语音克隆，试图破解美国系统。微软表示，朝鲜的“金苏基”（Kimsuky）网络组织、伊朗革命卫队、俄罗斯军队以及名为“水熊猫”（Aquatic Panda）的中国网络间谍组织可能使用其大型语言模型工具进行潜在攻击和恶意活动。
来自伊朗的攻击包括冒充国际发展机构的钓鱼邮件，另一封则试图诱使著名女性主义者访问攻击者构建的关于女权主义的网站。来自外国对手的网络攻击严重性和复杂性一直在稳步增加。本月，网络安全和基础设施局（CISA）表示，由中国支持的威胁行为者“伏尔特台风”（Volt Typhoon）针对多个西方国家的关键基础设施发起了攻击，并已至少五年内获得对该系统的访问权限。专家担心，随着民族国家利用生成式人工智能增强其努力，此类攻击的严重程度只会增加。
相关：企业如何在美国应对AI网络攻击新威胁
熟悉防御网络安全公司UnderDefense的首席执行官纳扎尔·蒂米什克（Nazar Tymoshyk）在电话采访中告诉《信息周刊》，即使通过生成式人工智能使威胁变得更加复杂，网络安全的基本原则应该保持不变。他指出，保障的责任在于开发AI的公司。“每个产品都具备AI功能，因此现在它已成为每个程序的一项特性。”他说，“因此，难以区分哪些是AI攻击。所以，责任在于公司采取额外的控制措施。”
微软将攻击尝试称为“初期阶段”，并表示“我们的研究与OpenAI尚未发现显著使用我们密切监控的大语言模型（LLMs）的攻击。同时，我们认为这项研究很重要，因为它揭示了我们观察到的知名威胁行为者所尝试的早期、逐步的行动，并分享了我们如何与防御社区合作阻止和对抗它们的信息。”公司表示，像多因素认证和零信任防御这样的卫生习惯仍然是对抗攻击的重要武器——无论是否是AI增强的攻击。“虽然攻击者将继续对AI感兴趣，并试探当前技术和安全控制的能力，但重要的是要将这些风险放在上下文中。”
相关：CISO需要了解的民族国家行为者
在另一篇博客文章中，OpenAI表示将继续与微软合作，识别潜在威胁使用生成式人工智能模型。“尽管我们努力最小化此类行为者的潜在滥用，但我们无法阻止每一种情况。但通过继续创新、调查、协作和分享，我们使恶意行为者在数字环境中更难隐藏行迹，并改善其他人的体验。”OpenAI拒绝让高管发表评论。
AI战斗中的多重战线
虽然微软和OpenAI的报告重点是威胁行为者如何利用AI工具进行攻击，但AI也可以成为攻击的途径。这是企业在狂热地实施生成式AI工具时需要记住的重要一点，对抗性AI公司HiddenLayer的首席执行官兼联合创始人克里斯·塞斯蒂托（Chris “Tito” Sestito）在电子邮件中告诉《信息周刊》。“从广泛的范围来看，人工智能是在生产系统中部署的最脆弱的技术。”塞斯蒂托说，“它在代码层面、训练和开发期间、部署后、通过网络、通过生成输出等方面都很脆弱。随着人工智能在各行业的迅速实施，故意发起的有害攻击也显著增多——这就是为什么需要防御方案来保护人工智能的原因。”
虽然微软和OpenAI的报告重点是威胁行为者如何利用AI工具进行攻击，但AI也可以成为攻击的途径。这是企业在狂热地实施生成式AI工具时需要记住的重要一点，对抗性AI公司HiddenLayer的首席执行官兼联合创始人克里斯·塞斯蒂托（Chris “Tito” Sestito）在电子邮件中告诉《信息周刊》。
相关：微软识别出支持俄罗斯的行为者背后的领导层电子邮件攻击
他补充道：“安全性必须跟上人工智能的步伐以加速创新。这就是为什么从开发到应用必须保护您最重要的资产至关重要……公司必须定期更新和完善其专门针对人工智能的安全策略，以应对新的挑战和漏洞。”
将文中的英文单词都翻译成中文，最终的内容只输出中文，装备名称、人名地名、公司名称都翻译成中文，最后将语句再润色一下，使得前后文更加的通顺，让语句更加的生动，将最后的输出文本的格式看起来更美观，除此之外，不要提供任何解释文字。
(以上内容均由Ai生成)
