OpenAI警告AI模型或可开发零日漏洞

快速阅读: 据OpenAI消息，其即将推出的先进AI模型或带来“高”级别网络安全风险，可能自主利用零日漏洞实施复杂攻击；为此公司正强化防御工具、访问控制及监测机制，并将设立前沿风险理事会，优先聚焦网络防御领域。

OpenAI近日警告称，其即将推出的先进人工智能模型可能带来“高”级别的网络安全风险。随着模型能力快速提升，这些系统或可自主发现并利用针对高防护目标的零日远程漏洞，甚至协助实施针对企业或工业系统的复杂入侵行动，从而对现实世界产生实质性影响。

为应对相关风险，该公司正加大对防御性网络安全任务的支持力度，着力开发辅助工具，帮助安全人员更高效地执行代码审计、漏洞修复等工作流程。同时，OpenAI采取多重技术手段强化防护体系，包括严格的访问控制、基础设施加固、出站流量管控及实时监测机制。

此外，该公司计划近期推出一项新计划，向符合资质、专注于网络防御的用户和客户提供分级访问权限，使其能够使用增强型模型能力。公司还将成立“前沿风险理事会”（Frontier Risk Council），邀请经验丰富的网络安全专家与内部团队紧密协作。该理事会初期聚焦网络安全领域，未来将逐步拓展至其他前沿能力方向。

目前，OpenAI已明确将安全置于模型研发的核心位置，力求在推动技术进步的同时，有效防范潜在威胁。

(以上内容均由Ai生成)