Qualys扩展TotalAI以增强AI和LLM模型风险

快速阅读: 据《计算机周刊》最新报道，奇安信升级天境AI服务，强化MLOps全流程安全。新增本地LLM扫描器，支持全面安全测试。扩展检测40种攻击场景，涵盖越狱、偏见、信息泄露等，助力组织提升模型韧性与安全性。

奇安信宣布对其天境AI服务进行升级优化，以保障组织从开发到部署的MLOps流程安全。用户现在可以在开发测试周期中对大型语言模型（LLMs）进行测试，并获得更强大的保护，抵御更多类型的攻击。借助内置的LLM扫描器，可以实现本地化扫描。近期的一项研究表明，72%的首席信息安全官（CISO）担心生成式AI解决方案可能引发组织的安全漏洞。天境AI专为应对AI风险的独特实际情况而设计，超越基础基础设施评估，直接检测模型是否存在越狱漏洞、偏见及敏感信息泄露，以及与LLMs相关的OWASP十大关键风险问题。

采用风险驱动的方法，天境AI不仅能够发现特定于AI的暴露点，还能帮助团队更快地解决问题，提升运营韧性并维护品牌信任。天境AI专为应对AI风险的独特实际情况而设计，超越基础基础设施评估，直接检测模型是否存在越狱漏洞、偏见及敏感信息泄露，以及与LLMs相关的OWASP十大关键风险问题。天境AI提供自动化AI安全风险优先级排序功能。

天境AI专为应对AI风险的独特实际情况而设计，超越基础基础设施评估，直接检测模型是否存在越狱漏洞、偏见及敏感信息泄露，以及与LLMs相关的OWASP十大关键风险问题。借助MITRE ATLAS 映射至现实世界的对抗性战术，并通过奇安信可信风险评分引擎自动优先排序，帮助安全、IT及MLOps团队聚焦最关键业务风险。

借助新的内置本地LLM扫描器，组织现在可以在开发、预发布和部署阶段对LLM模型进行全面的安全测试，而无需对外暴露模型。这种向左移的方法将AI安全性和测试融入现有CI/CD工作流，提升了敏捷性并强化了安全性，同时确保敏感模型始终位于企业防火墙之后。

模型韧性：天境AI现已扩展为检测40种不同攻击场景，涵盖高级越狱技术、提示注入与操控、多语言漏洞利用及偏见放大。这些扩展场景模拟真实世界的对抗性策略，增强模型对利用的韧性，防止攻击者操控输出或绕过防护机制。

模型韧性：天境AI现已扩展为检测40种不同攻击场景，涵盖高级越狱技术、提示注入与操控、多语言漏洞利用及偏见放大。此外，这里还提供了跨模态攻击防护：天境AI增强的多模态检测能力可识别图像、音频和视频文件中隐藏的提示或扰动，这些内容意在操控LLM输出，帮助组织防范跨模态攻击。

模型韧性：天境AI现已扩展为检测40种不同攻击场景，涵盖高级越狱技术、提示注入与操控、多语言漏洞利用及偏见放大。

(以上内容均由Ai生成)