自主 AI 在机器对机器交互中的风险

快速阅读: 据《帮助网络安全》称，在《帮助网络安全》中，奥德·哈雷文提出企业应重构网络安全策略以应对机器间（M2M）安全需求。建议包括采用机器身份管理、自动化策略执行、加强AI模型安全等措施。企业需重视机器身份的特殊需求，通过集中式秘密管理和零信任原则保障M2M通信安全。

在《帮助网络安全》中，Akeyless 安全公司首席执行官奥德·哈雷文探讨了企业应如何调整其网络安全策略以应对机器间（M2M）安全日益增长的需求。根据哈雷文的说法，机器身份必须像人类身份一样受到保护和管理，重点在于自动化和策略即代码。企业应如何重构其网络安全策略以应对机器间交互？企业需认识到机器间交互与人与系统间的交互具有根本不同的身份需求。传统的身份框架优先考虑用户名、密码和多因素认证（MFA）等人因认证因素。然而，机器需要不同的方法，重点在于所有权、凭证（如证书、密钥和秘密）、自动化以及策略即代码。为了重构针对 M2M 交互的网络安全策略，组织应当：

1. 采用机器身份管理策略——正如人类身份需要证明和认证一样，机器需要安全的凭证、自动发现和密钥及证书的生命周期管理。
2. 从用户体验转向开发者体验——机器通过编程进行交互，因此政策和安全措施应与 DevOps 和 DevSecOps 工作流程保持一致，确保安全融入自动化流程。
3. 实现自动化、低代码或无代码的策略执行——机器依赖预定义的安全策略，而非用户驱动的权限。组织应当实施自动化、低代码或无代码的策略执行，以高效地管理机器交互。
4. 需要大规模管理和自动化配置、凭证轮换和撤销，以防止安全漏洞。

通过像对待人类身份一样对待机器身份，并适应其独特需求，组织可以减轻风险并实现安全的 M2M 通信。对抗性人工智能攻击，如模型中毒或数据操纵，如何影响 M2M 安全？对抗性人工智能攻击，如模型中毒和数据操纵，通过破坏自动化认证和过程威胁 M2M 安全。这些攻击利用了机器学习模型在 M2M 环境中交换数据和认证时的漏洞。对抗性人工智能攻击，如模型中毒或数据操纵，如何影响 M2M 安全？模型中毒涉及注入恶意数据或操纵更新，削弱人工智能决策制定并可能引入后门。如果 AI 系统接受被篡改的凭证或更新，安全性会下降，特别是在自主 M2M 系统中，导致级联故障。数据操纵通过修改存储的数据或拦截传输中的数据来改变数据集。没有适当的认证，攻击者可以注入虚假数据，干扰关键 M2M 环境（如工业自动化、物联网和云工作负载）的操作。

为缓解这些风险，企业应当：

– 通过签名更新和模型真实性的验证来强制实施加密完整性。
– 保护模型凭证（证书、API 密钥、机器认证令牌），限制未经授权访问。
– 持续监控模型行为、认证尝试及证书使用中的异常。
– 应用零信任原则，要求所有 AI 驱动的 M2M 交互（包括内部交互）进行认证。

当我们提及机器身份时，我们指的范围远超物联网和工业系统。机器包括 Gartner 定义的工作负载和设备。工作负载包括容器、虚拟机（VM）、应用程序、服务、机器人流程自动化（RPA）和脚本；设备则包括移动、桌面和物联网/运营技术（OT）系统。最大的安全风险出现在大规模机器间交互的环境中，尤其是在云计算、DevOps 和自动化密集型基础设施中。一些最脆弱的领域包括：

– 云计算和 Kubernetes 环境——API 密钥、SSH 证书和凭证对于保护工作负载至关重要，但如果管理不当，可能导致大规模泄露。
– API 网关和自动化服务——API 密钥经常成为目标，一旦被攻破，攻击者可以直接访问关键系统。
– DevOps 管道——随着自动化驱动基础架构部署，嵌入 CI/CD 工作流中的秘密成为攻击者的首要目标，增加了供应链攻击的风险。
– 数据库和虚拟机——暴露的数据库凭证或 SSH 密钥可能导致数据泄露或勒索软件攻击。
– 物联网和 OT 系统——由于安全配置薄弱且长期存在的凭证很少更新，这些系统特别容易受到攻击。

基本挑战在于机器不像人类那样进行认证——它们完全依赖于秘密。若缺乏适当管理，攻击者可以利用暴露的凭证进行横向移动，访问敏感数据或干扰关键操作。由于自动化允许这些攻击迅速扩展，企业需要集中式秘密管理、自动化轮换及严格的访问控制，以有效保护机器身份。关键在于实施零静态权限（ZSP），防止 AI 驱动系统拥有持久的、不必要的敏感资源访问权限。相反，访问权限应基于实时验证，按需授予最少权限。这确保即便 AI 系统被攻破，攻击者也无法利用静态权限进行横向移动。随着 AI 进行自主决策，安全性必须具备动态性。通过消除不必要的权限并实施严格、实时的访问控制，组织可在保持敏捷性和自动化的同时，保障 AI 驱动的机器间交互的安全。

如果您能向 CISO 和安全团队提供今天准备应对 M2M 安全挑战的关键步骤，那会是什么？机器身份数量是人类身份的 45 倍，使得传统的人类中心安全方法变得无效。为应对 M2M 安全挑战，CISO 和安全团队应关注三个关键领域：

1. 理解人类和机器身份之间的差异——机器，如容器、虚拟机、API、数据库和自动化过程——的身份验证方式与人类不同。它们依赖于秘密、证书和密钥，使其成为攻击者的首选目标。安全团队需相应调整其身份策略。
2. 消除孤岛并采用统一平台——当前用于管理秘密、证书和身份治理的安全工具往往分散且复杂，增加了成本和安全漏洞。相反，组织应整合至单一的、云原生的平台上，集中管理所有非人类身份和秘密。这减少了错误配置，提高了可见性并增强了安全性。
3. 进化组织结构以拥有非人类身份管理（NHIM）——M2M 安全不仅是一个技术问题——它需要跨云安全、DevOps、IAM 和风险管理的功能性方法。CISO 应建立一个专门的 NHIM 项目，确保持续的治理、执行和适应不断演变的机器身份威胁。

(以上内容均由Ai生成)