Microsoft 通过新的身份保护、威胁警报和数据治理提高 AI 平台安全性

快速阅读: 《硅角度》消息，微软在Build大会推出新功能扩展AI安全与治理产品，保护“智能工作队伍”。发布Entra Agent ID管理AI代理身份，与第三方平台合作，并在Defender和Purview中新增安全洞察与集成。Azure AI Foundry获更新，加强安全与合规性。

微软公司今日宣布大幅扩展其人工智能安全与治理产品，推出旨在保护新兴“智能工作队伍”的新功能。这是一类由AI代理与人类协作共事的世界。在公司年度Build开发者大会上，微软正在扩展Entra、Defender和Purview，并将其集成到Azure AI Foundry和Copilot Studio中，以帮助组织在整个开发生命周期中保护AI应用程序与代理。

这些扩展功能共同致力于应对AI开发中的重要问题，防范提示注入、数据泄露和身份蔓延等安全威胁，同时确保符合各类法规。最引人注目的是Entra Agent ID的发布，这是一种全新的集中式解决方案，旨在管理在Copilot Studio和Azure AI Foundry中构建的AI代理的身份。每个代理都会在Microsoft Entra中自动分配一个安全且可追踪的身份，使安全团队能够对企业内的非人类实体实现可视化管理和治理。该集成还包括对第三方平台的支持，微软宣布与ServiceNow Inc.和Workday Inc.建立新的合作伙伴关系，以支持人力资源和劳动力系统的身份管理。借助Entra Agent ID，安全团队现在能够在单一管理界面内统一监管AI代理与人类用户，为整个企业的非人类身份治理奠定基础。

Defender和Purview今天还宣布了一项功能，即来自微软云Defender的安全洞察现已直接集成到Azure AI Foundry中，使开发人员无需离开开发环境就能接收针对AI的特定威胁警告和状态建议。这些警告覆盖超过15种检测类别，如越狱、配置错误和敏感数据泄露。其目的在于减少开发团队与安全团队之间的隔阂，从而更快响应不断演化的威胁，而不影响部署速度。

Purview，微软的集成数据安全、合规性和治理平台，将获得一个新的软件开发工具包（SDK），允许开发人员将策略执行、审计和数据丢失防护嵌入AI系统。该SDK允许组织实时识别敏感数据风险，对Dataverse表应用自动标记，并继承AI代理输出的敏感分类，以保障从开发到生产的全生命周期安全。

Azure AI Foundry鉴于今天的公告主要聚焦于AI安全，不出意外，微软的Azure AI Foundry获得了更新，其中包括一项名为“Spotlighting”的功能，可检测嵌入外部内容中的提示注入攻击、实时任务遵守评估和持续监控仪表盘。该功能允许开发人员确认代理行为是否保持在范围之内并符合企业政策。Azure AI Foundry现在还通过与Microsoft Purview合规管理器以及第三方治理方案Credo.AI Inc.和Saidot Ltd.的整合，支持合规性流程。借助此次更新，开发人员现在可在Azure AI环境中开展算法影响评估、生成报告并向安全与合规团队展示风险证据。

图片：SiliconANGLE/Reve

来自SiliconANGLE联合创始人John Furrier的消息：您的支持对我们至关重要，有助于我们维持内容免费。点击下方即可助力我们的使命，提供免费、深入且有价值的内容。

加入包含超过15,000名#CubeAlumni专家的社群，加入包含亚马逊CEO安迪·贾西、戴尔科技创始人兼CEO迈克尔·戴尔、英特尔CEO帕特·格尔辛格等诸多知名人士与专家的社群。

“CUBE是行业的重要伙伴。你们确实是我们的活动的一部分，我们非常感谢你们的到来，我知道人们也欣赏你们创造的内容。”

——安迪·贾西

感谢您的支持！

(以上内容均由Ai生成)