AI安全公司Irregular获8000万美元融资,聚焦前沿模型安全

发布时间:2025年9月18日    来源:szf
AI安全公司Irregular获8000万美元融资,聚焦前沿模型安全

快速阅读: AI安全公司Irregular获8000万美元融资,估值4.5亿美元。公司将利用资金开发复杂模拟环境,提前发现AI模型潜在风险,增强安全评估能力。

周三,AI安全公司Irregular宣布获得由红杉资本和红点创投领投的8000万美元新融资,Wiz首席执行官Assaf Rappaport也参与了本轮投资。据知情人士透露,此轮融资对Irregular的估值为4.5亿美元。

“我们认为,未来大量的经济活动将来自人机互动和机器间互动,”联合创始人Dan Lahav在接受TechCrunch采访时说,“这将从多个方面打破安全体系。”

此前名为Pattern Labs的Irregular已成为AI评估领域的重要参与者。该公司的研究被引用在Claude 3.7 Sonnet以及OpenAI的o3和o4-mini模型的安全评估中。更广泛地,该公司用于评估模型漏洞检测能力的框架(称为SOLVE)在业内得到广泛应用。

尽管Irregular在现有模型风险方面做了大量工作,但此次融资的目标更加雄心勃勃:在这些风险和行为出现在实际环境中之前就发现它们。为此,公司构建了一个复杂的模拟环境系统,能够在模型发布前进行密集测试。

“我们有复杂的网络模拟,在这些模拟中,AI既扮演攻击者也扮演防御者,”联合创始人Omer Nevo说,“因此当新模型推出时,我们可以看到哪些地方的防御有效,哪些地方不有效。”

随着前沿模型带来的潜在风险日益增加,安全性已成为AI行业关注的重点。今年夏天,OpenAI对其内部安全措施进行了全面改革,以防范可能的企业间谍活动。

同时,AI模型在发现软件漏洞方面越来越擅长,这对攻击者和防御者都有重要影响。

对于Irregular的创始人来说,这只是大型语言模型日益增长的能力引发的一系列安全问题中的第一个。

“如果前沿实验室的目标是创建越来越复杂和强大的模型,我们的目标就是保护这些模型,”Lahav说,“但这是一场不断变化的战斗,因此未来还有许多工作要做。”

(以上内容均由Ai生成)

你可能还想读

Coinbase新协议让AI自主完成加密支付

Coinbase新协议让AI自主完成加密支付

快速阅读: Coinbase推出MCP工具,基于x402协议,使AI代理能持有钱包、发送稳定币支付,实现机器间加密货币转账,内置限额和合规检查确保安全。 Coinbase新推出的MCP工具允许人工智能代理持有钱包并发送稳定币支付。基于Coi […]

发布时间:2025年10月24日
硅实验室推出Simplicity Ecosystem,简化物联网开发流程

硅实验室推出Simplicity Ecosystem,简化物联网开发流程

快速阅读: 硅实验室推出Simplicity生态系统,旨在简化嵌入式物联网开发,包括Simplicity Studio 6和2026年推出的Simplicity AI SDK,提供模块化工具和AI辅助设计,支持多种物联网标准。 硅实验室推出 […]

发布时间:2025年10月24日
老旧印刷厂变身高效AI数据中心

老旧印刷厂变身高效AI数据中心

快速阅读: 帕特莫斯利用旧印刷厂的液体设施,支持每机柜50至140千瓦电力需求,采用多环路液体冷却系统,确保高效散热与硬件保护,接入堪萨斯城区域冷水供应,实现环保节能。 他说道:“我认为,棕地是一种极具创意的方法来应对我们当前面临的最大问题 […]

发布时间:2025年10月24日
AI安全集成:Snyk Evo引领企业智能防护新纪元

AI安全集成:Snyk Evo引领企业智能防护新纪元

快速阅读: 数字系统的快速发展要求安全架构更加智能、灵活。Snyk Evo通过自主编排、AI感知和主动保护,重新定义AI应用安全,减少暴露风险,简化开发流程。 数字系统的快速发展迫使安全架构必须更快地思考、更智能地行动并即时适应。随着各组织 […]

发布时间:2025年10月24日
黄仁勋:美光对下一代AI突破至关重要

黄仁勋:美光对下一代AI突破至关重要

快速阅读: 英伟达与美光合作,推动AI基础设施发展。美光HBM3E内存助力英伟达GPU,提升AI性能。黄仁勋称,高性能内存对AI应用至关重要,双方合作开启消费级和企业级AI新水平。 在全球领导层就人工智能可持续发展进行辩论之际,各公司纷纷投 […]

发布时间:2025年10月24日
苹果COO确认休斯顿制造AI服务器提前发货

苹果COO确认休斯顿制造AI服务器提前发货

快速阅读: 苹果首席运营官萨比赫·汗确认,因特朗普总统推动,苹果从休斯顿新工厂提前出货美国制造的人工智能服务器,此举响应总统号召,促进本国就业。 苹果首席运营官萨比赫·汗在接受福克斯新闻网数字版采访时确认,公司正从其位于休斯顿的新工厂提前出 […]

发布时间:2025年10月24日
微软Edge浏览器增强Copilot模式,挑战AI浏览器市场

微软Edge浏览器增强Copilot模式,挑战AI浏览器市场

快速阅读: 微软Edge浏览器推出Copilot模式,提供AI代理功能,包括Actions和Journeys,支持语音操作完成任务及记录浏览历史,帮助用户从中断处继续。 Edge 浏览器推出 Copilot 模式,带来更强大的代理 AI 功 […]

发布时间:2025年10月24日
阿联酋总统重组人工智能与先进技术委员会

阿联酋总统重组人工智能与先进技术委员会

快速阅读: 阿布扎比总统重组人工智能与先进技术委员会,由谢赫·塔农任主席,旨在加速AI政策实施与技术发展,推动《阿布扎比数字政府战略2025-2027》实现。 阿布扎比,10月23日(WAM/ANI):阿布扎比酋长国总统谢赫·穆罕默德·本· […]

发布时间:2025年10月24日