Arm携手OpenCloudOS发布Infra智能基座

发布时间:2025年12月17日    来源:szf
Arm携手OpenCloudOS发布Infra智能基座

快速阅读: 记者注意到,OpenCloudOS发布Infra智能基座,以破解AI部署碎片化难题,统一纳管异构硬件并聚合主流框架,将部署时间从天级压缩至分钟级;Arm协同优化算力效率,实测混元大模型预填充速度提升100%,社区已汇聚18万开发者,服务6.2万家企业。

2025年以来,人工智能加速融入成熟产业,推动算力需求呈现爆发式增长。然而,要使AI真正成为堪比互联网的时代级驱动力,亟需突破科技公司当前的“线性”发展模式,构建更加开源开放的生态体系。

当前,大模型部署已进入规模化深水区,但硬件与框架“碎片化”问题日益突出。开发者常需耗费60%以上的精力处理底层适配,部署流程繁琐。在此背景下,2025年OpenCloudOS操作系统生态大会正式发布Infra智能基座,旨在破解这一“适配之痛”。

该基座南向统一纳管多类异构硬件,深度集成主流AI芯片驱动,支持一键部署;北向则聚合PyTorch、vLLM等数十款全球主流框架,并将其封装为容器镜像,将部署时间从“天级”压缩至“分钟级”。同时,其与腾讯云HAI平台联动,提供开箱即用的AI-ready云服务器。

Arm云AI事业部工程高级总监Robert Williamson指出,面向大模型的开源操作系统必须演进为软硬件高效协同的AI分布式计算基座,具备加速器优先的内核架构、安全隔离的GPU资源管理以及优化的数据流协议栈。目前,Arm正通过SMMUv3等技术,与OpenCloudOS协同打破硬件壁垒,提升算力流动效率。

在生态协同方面,Arm已签署贡献者协议,投入工程资源参与社区开发,并将KleidiAI优化库集成至腾讯Angel等框架。实测显示,混元大模型的预填充速度提升100%,解码速度提升10%。

作为国内三大服务器操作系统根社区之一,OpenCloudOS截至2025年已汇聚18万名开发者、1200余家生态伙伴,装机量超2000万节点,服务6.2万家企业,覆盖政务、AI、交通等关键领域。

面对AI基础设施高能耗的挑战,开源操作系统通过软件优化实现降本增效。例如,容器镜像体积缩减94%,自研FlexKV系统在高并发场景下将首Token延迟降低70%。在安全方面,Arm CCA机密计算架构与OpenCloudOS协同构建可信执行环境,有效保障数据的机密性与完整性。

OpenCloudOS社区TOC主席王佳强调,唯有凝聚开发者、企业与生态伙伴的合力,才能筑牢AI时代的基础软件底座,推动产业从粗放的算力堆砌迈向精细化协同。

(以上内容均由Ai生成)

引用自:InfoQ网站

你可能还想读

企业AI治理聚焦员工实际工作场景

企业AI治理聚焦员工实际工作场景

快速阅读: 最新消息显示,企业加速部署AI协作者引发数据安全风险,敏感信息易在浏览器界面层泄露。专家建议通过角色分级、本地内容识别与合规通道,在提升效率的同时满足GDPR等法规要求。 企业正加速引入人工智能协作者与浏览器助手,但员工在实际使 […]

发布时间:2025年12月17日
科技界将助力缩小视障群体就业差距

科技界将助力缩小视障群体就业差距

快速阅读: 有消息指出,技术开发者正推动包容性设计,以弥合就业障碍,确保辅助工具与企业系统兼容可用。若忽视这一原则,一次系统更新就可能导致残障求职者或员工被排除在外;而早期纳入包容性考量成本极低,却能有效促进公平就业。 当前,许多人在进入劳 […]

发布时间:2025年12月17日
AI测评师推荐2025年三大免费高效工具

AI测评师推荐2025年三大免费高效工具

快速阅读: 据苹果公司消息,其将系统自带的语音备忘录应用评为2025年“年度iPhone应用”。该工具免费支持录音转文字、关键词搜索及音频回放,适用于iOS 18.0以上系统的iPhone 12及以上机型,为ADHD人群及高频录音用户提供高 […]

发布时间:2025年12月17日
企业将整合AI与地理技术推进气候智能决策

企业将整合AI与地理技术推进气候智能决策

快速阅读: 据了解,企业正加速融合可持续发展数据与运营系统,通过AI、地理空间技术及数字孪生构建“气候智能”能力,以驱动减排行动。但AI自身高能耗引发“可持续悖论”,凸显绿色IT透明度与净环境效益验证的紧迫性。 近年来,企业正加速将可持续发 […]

发布时间:2025年12月17日
亚马逊拟投资100亿美元入股OpenAI并供应Trainium芯片

亚马逊拟投资100亿美元入股OpenAI并供应Trainium芯片

快速阅读: 据金融时报报道,亚马逊计划向OpenAI投资100亿美元,并提供AI芯片及云服务,以推动其电商平台优化;作为回报,OpenAI将扩大使用AWS数据中心,采用亚马逊自研Trainium芯片,并叠加此前380亿美元的租赁承诺。 亚马 […]

发布时间:2025年12月17日
Instagram推电视版Reels应用

Instagram推电视版Reels应用

快速阅读: 据Meta公司消息,该公司近日开始公开测试适用于电视端的Instagram应用,目前仅支持亚马逊Fire TV设备,主推Reels短视频内容并按兴趣划分频道,未来将增加手机遥控、好友动态共享等功能以优化用户体验。 为满足用户在更 […]

发布时间:2025年12月17日
美金融机构以治理先行推进负责任AI

美金融机构以治理先行推进负责任AI

快速阅读: 消息人士透露,一家美国大型金融机构在推进人工智能应用前,优先构建以负责任AI原则为基础的治理框架,聚焦准确性、公平性与安全性等核心要素,在提升效率的同时防控风险。 一家总部位于美国的大型金融机构在看到人工智能提升运营效率的巨大潜 […]

发布时间:2025年12月17日
台电将发布AI数据中心电网安全新规

台电将发布AI数据中心电网安全新规

快速阅读: 据台电公司消息,人工智能数据中心用电需求无法仅靠延伸输电线路满足,须统筹评估当地供电能力,建议运营商优先在中南部布局,待北部电网扩容后再行建设,以优化电力资源配置并保障稳定运行。 台电公司指出,人工智能数据中心的用电需求无法仅靠 […]

发布时间:2025年12月17日