AI安全公司Irregular获8000万美元融资,聚焦前沿模型安全

发布时间:2025年9月18日    来源:szf
AI安全公司Irregular获8000万美元融资,聚焦前沿模型安全

快速阅读: AI安全公司Irregular获8000万美元融资,估值4.5亿美元。公司将利用资金开发复杂模拟环境,提前发现AI模型潜在风险,增强安全评估能力。

周三,AI安全公司Irregular宣布获得由红杉资本和红点创投领投的8000万美元新融资,Wiz首席执行官Assaf Rappaport也参与了本轮投资。据知情人士透露,此轮融资对Irregular的估值为4.5亿美元。

“我们认为,未来大量的经济活动将来自人机互动和机器间互动,”联合创始人Dan Lahav在接受TechCrunch采访时说,“这将从多个方面打破安全体系。”

此前名为Pattern Labs的Irregular已成为AI评估领域的重要参与者。该公司的研究被引用在Claude 3.7 Sonnet以及OpenAI的o3和o4-mini模型的安全评估中。更广泛地,该公司用于评估模型漏洞检测能力的框架(称为SOLVE)在业内得到广泛应用。

尽管Irregular在现有模型风险方面做了大量工作,但此次融资的目标更加雄心勃勃:在这些风险和行为出现在实际环境中之前就发现它们。为此,公司构建了一个复杂的模拟环境系统,能够在模型发布前进行密集测试。

“我们有复杂的网络模拟,在这些模拟中,AI既扮演攻击者也扮演防御者,”联合创始人Omer Nevo说,“因此当新模型推出时,我们可以看到哪些地方的防御有效,哪些地方不有效。”

随着前沿模型带来的潜在风险日益增加,安全性已成为AI行业关注的重点。今年夏天,OpenAI对其内部安全措施进行了全面改革,以防范可能的企业间谍活动。

同时,AI模型在发现软件漏洞方面越来越擅长,这对攻击者和防御者都有重要影响。

对于Irregular的创始人来说,这只是大型语言模型日益增长的能力引发的一系列安全问题中的第一个。

“如果前沿实验室的目标是创建越来越复杂和强大的模型,我们的目标就是保护这些模型,”Lahav说,“但这是一场不断变化的战斗,因此未来还有许多工作要做。”

(以上内容均由Ai生成)

你可能还想读

纽约市消防局安装AI摄像头,快速检测公园野火

纽约市消防局安装AI摄像头,快速检测公园野火

快速阅读: 纽约市消防局为应对野火风险,在多个公园安装太阳能摄像头,实时监测烟雾和火焰,防止火灾蔓延。此举旨在保护社区安全,应对气候变化带来的挑战。 随着纽约市各地的野火风险上升,消防局(FDNY)正利用人工智能技术,在火灾蔓延前加以阻止。 […]

发布时间:2025年10月24日
拉合尔发展局启动AI系统优化地图审批流程

拉合尔发展局启动AI系统优化地图审批流程

快速阅读: 拉合尔发展局计划用AI系统替代现有地图提交和审批流程,以减少公众投诉和消除腐败,新系统将自动审批地图,提高透明度。 拉合尔:据《黎明报》报道,拉合尔发展局(LDA)已开始着手制定一项计划,以人工智能系统取代现有的在线和手动地图提 […]

发布时间:2025年10月24日
印度政府发布新规,打击Deepfake和合成信息

印度政府发布新规,打击Deepfake和合成信息

快速阅读: 印度政府发布《信息技术规则》2021年修正案草案,首次定义“合成信息”,要求所有合成内容强制标记并嵌入元数据,以增强透明度和责任,公众可于11月6日前提交意见。 印度政府在规范人工智能(AI)使用方面迈出了正式的第一步,发布了《 […]

发布时间:2025年10月24日
谷歌提供TPU助力Anthropic训练Claude模型

谷歌提供TPU助力Anthropic训练Claude模型

快速阅读: Anthropic与谷歌扩大合作,将使用百万颗AI芯片,价值数百亿美元,以加速AI系统发展。Anthropic将获超一吉瓦算力,2026年上线,用于训练Claude模型。此举反映AI行业对芯片需求高涨。 Anthropic正在扩 […]

发布时间:2025年10月24日
苹果开始从休斯顿工厂发货AI服务器

苹果开始从休斯顿工厂发货AI服务器

快速阅读: 苹果开始从休斯顿工厂发货配备特殊芯片的人工智能服务器,支持iPhone和Mac的隐私保护功能,作为6000亿美元美国投资计划的一部分,服务器将安装在美国各地的数据中心。 苹果公司周四宣布,已经开始从位于休斯顿的工厂发货人工智能服 […]

发布时间:2025年10月24日
微软Edge新增Copilot模式,挑战ChatGPT Atlas

微软Edge新增Copilot模式,挑战ChatGPT Atlas

快速阅读: 微软宣布在Edge浏览器中推出AI驱动的Copilot模式,旨在简化任务管理、整理标签页及恢复会话。新功能包括Copilot Actions和Journeys,支持语音命令执行操作及主题归类浏览会话,强调用户隐私保护。 微软宣布 […]

发布时间:2025年10月24日
谷歌向Anthropic提供百万AI芯片,深化数十亿美元合作

谷歌向Anthropic提供百万AI芯片,深化数十亿美元合作

快速阅读: 谷歌母公司Alphabet将向AI公司Anthropic提供100万片TPU芯片,增强其计算能力,巩固双方合作关系,彰显AI竞赛中的巨额投资需求。 谷歌母公司Alphabet将向Anthropic提供多达100万片专门的人工智能 […]

发布时间:2025年10月24日
微软推出新AI角色Mico,赋予Copilot虚拟助手人格化面貌

微软推出新AI角色Mico,赋予Copilot虚拟助手人格化面貌

快速阅读: 微软推出新AI角色Mico,作为Copilot虚拟助手的化身,旨在为AI聊天机器人增添个性。Mico能根据对话内容变化表情和动作,提供更友好的交互体验。 近三十年前让微软办公软件用户感到厌烦的动画纸夹Clippy,或许只是超前于 […]

发布时间:2025年10月24日