Arm携手OpenCloudOS发布Infra智能基座

发布时间:2025年12月17日    来源:szf
Arm携手OpenCloudOS发布Infra智能基座

快速阅读: 记者注意到,OpenCloudOS发布Infra智能基座,以破解AI部署碎片化难题,统一纳管异构硬件并聚合主流框架,将部署时间从天级压缩至分钟级;Arm协同优化算力效率,实测混元大模型预填充速度提升100%,社区已汇聚18万开发者,服务6.2万家企业。

2025年以来,人工智能加速融入成熟产业,推动算力需求呈现爆发式增长。然而,要使AI真正成为堪比互联网的时代级驱动力,亟需突破科技公司当前的“线性”发展模式,构建更加开源开放的生态体系。

当前,大模型部署已进入规模化深水区,但硬件与框架“碎片化”问题日益突出。开发者常需耗费60%以上的精力处理底层适配,部署流程繁琐。在此背景下,2025年OpenCloudOS操作系统生态大会正式发布Infra智能基座,旨在破解这一“适配之痛”。

该基座南向统一纳管多类异构硬件,深度集成主流AI芯片驱动,支持一键部署;北向则聚合PyTorch、vLLM等数十款全球主流框架,并将其封装为容器镜像,将部署时间从“天级”压缩至“分钟级”。同时,其与腾讯云HAI平台联动,提供开箱即用的AI-ready云服务器。

Arm云AI事业部工程高级总监Robert Williamson指出,面向大模型的开源操作系统必须演进为软硬件高效协同的AI分布式计算基座,具备加速器优先的内核架构、安全隔离的GPU资源管理以及优化的数据流协议栈。目前,Arm正通过SMMUv3等技术,与OpenCloudOS协同打破硬件壁垒,提升算力流动效率。

在生态协同方面,Arm已签署贡献者协议,投入工程资源参与社区开发,并将KleidiAI优化库集成至腾讯Angel等框架。实测显示,混元大模型的预填充速度提升100%,解码速度提升10%。

作为国内三大服务器操作系统根社区之一,OpenCloudOS截至2025年已汇聚18万名开发者、1200余家生态伙伴,装机量超2000万节点,服务6.2万家企业,覆盖政务、AI、交通等关键领域。

面对AI基础设施高能耗的挑战,开源操作系统通过软件优化实现降本增效。例如,容器镜像体积缩减94%,自研FlexKV系统在高并发场景下将首Token延迟降低70%。在安全方面,Arm CCA机密计算架构与OpenCloudOS协同构建可信执行环境,有效保障数据的机密性与完整性。

OpenCloudOS社区TOC主席王佳强调,唯有凝聚开发者、企业与生态伙伴的合力,才能筑牢AI时代的基础软件底座,推动产业从粗放的算力堆砌迈向精细化协同。

(以上内容均由Ai生成)

引用自:InfoQ网站

你可能还想读

美金融机构以治理先行推进负责任AI

美金融机构以治理先行推进负责任AI

快速阅读: 消息人士透露,一家美国大型金融机构在推进人工智能应用前,优先构建以负责任AI原则为基础的治理框架,聚焦准确性、公平性与安全性等核心要素,在提升效率的同时防控风险。 一家总部位于美国的大型金融机构在看到人工智能提升运营效率的巨大潜 […]

发布时间:2025年12月17日
台电将发布AI数据中心电网安全新规

台电将发布AI数据中心电网安全新规

快速阅读: 据台电公司消息,人工智能数据中心用电需求无法仅靠延伸输电线路满足,须统筹评估当地供电能力,建议运营商优先在中南部布局,待北部电网扩容后再行建设,以优化电力资源配置并保障稳定运行。 台电公司指出,人工智能数据中心的用电需求无法仅靠 […]

发布时间:2025年12月17日
英伟达力推开源AI模型

英伟达力推开源AI模型

快速阅读: 据英伟达消息,该公司近日推出新一代Nemotron 3开源大模型系列,采用混合Mamba-Transformer架构与稀疏激活混合专家机制,显著提升推理效率并降低内存占用,以强化其AI软硬件全栈整合战略。 近日,英伟达公司进一步 […]

发布时间:2025年12月17日
全球加速建设海底光缆支撑AI与云服务

全球加速建设海底光缆支撑AI与云服务

快速阅读: 据诺基亚贝尔实验室消息,全球海底光缆网络正通过光层直通与扩展波段技术优化端到端架构,以应对AI训练与云服务激增的带宽需求。该方案可减少三分之二转发器数量,降低功耗与回传成本,并支持跨洋数据中心高效互联。 光纤网络是现代信息社会的 […]

发布时间:2025年12月17日
Alphabet云业务加速推进AI增长

Alphabet云业务加速推进AI增长

快速阅读: 据多家机构披露,Alphabet第三季度云业务收入达152亿美元,同比增长34%,运营利润飙升85%,积压订单增至1550亿美元,反映AI算力需求强劲。公司计划收购云安全平台Wiz以强化企业布局,但高资本支出与激烈竞争带来回报压 […]

发布时间:2025年12月17日
生成式AI或削弱人类认知能力

生成式AI或削弱人类认知能力

快速阅读: 据多方确认,专家警告生成式AI可能引发“构成性去技能化”,削弱人类判断力与创造力。医学研究显示,医生依赖AI后腺瘤检出率下降6个百分点;科技公司通过提升AI顺从度增强用户黏性,或加剧认知孤立与信息茧房。 人工智能技术的快速发展正 […]

发布时间:2025年12月17日
Zencoder推Zenflow实现LLM互验

Zencoder推Zenflow实现LLM互验

快速阅读: 据Zencoder消息,该公司今日发布新一代AI编排工具Zenflow,通过结构化工作流与多智能体交叉验证机制,提升企业级代码生成的规范性与可靠性,以应对当前AI编程工具效能不及预期的问题。 人工智能编程初创企业Zencoder […]

发布时间:2025年12月17日
OpenAI拟融资100亿美元采用亚马逊AI芯片

OpenAI拟融资100亿美元采用亚马逊AI芯片

快速阅读: 据最新通报,OpenAI正与亚马逊就潜在超百亿美元投资展开早期磋商,计划采用其自研Trainium芯片,以挑战英伟达在AI训练市场的主导地位。若交易落地,OpenAI估值或超5000亿美元,同时助力亚马逊云科技增强对AI开发者的 […]

发布时间:2025年12月17日