云原生与AI融合:KubeCon探讨未来趋势
快速阅读: AI与Kubernetes融合,重塑技术栈,影响云原生与开源角色。KubeCon + CloudNativeCon北美会议将探讨AI快速发展带来的挑战与机遇,活动于11月10日开始。
AI与Kubernetes正在融合,重塑整个技术栈。这将如何影响未来云原生和开源的角色?这是开源社区关键领导人在亚特兰大年度KubeCon + CloudNativeCon北美会议期间将思考的核心问题,该活动将于11月10日开始。过去一年,从平台工程技术到云原生可观测性的新工具,各个领域均持续增长,然而AI一直是焦点话题,预计将继续主导讨论。
如同池塘中的鸭子,许多企业在表面上看似平静,实际上却在水面下拼命划动。即使是资金最雄厚、经验最丰富的IT部门也开始感到难以跟上AI的浪潮。这一点最近在与云原生计算基金会和Linux基金会执行董事乔纳森·布赖斯的采访中得到了进一步阐明。布赖斯回忆起与全球最先进的IT组织之一的领导层会面时,他们表达了对能否跟上不断演变的AI解决方案的担忧。
“在整个谈话过程中,他们觉得自己落后了。”布赖斯告诉SiliconANGLE,“这个领域变化如此之快,每周都有新事物出现。我们正处于人们尝试多种不同方法的阶段,实际上大家都在快速学习。”
这一专题报道是SiliconANGLE Media对云原生计算、开源创新及Kubernetes未来持续探索的一部分。请务必观看CUBE分析师在11月11日至13日期间对KubeCon + CloudNativeCon北美会议的报道。(*以下有披露声明。)
云原生代理协议
当前AI发展最快的领域之一涉及代理,即执行关键企业任务的自主软件。云原生世界积极参与塑造这种自主技术的未来方向,推动可互操作、安全且专业的多代理系统形成。
近期两个举动凸显了开源社区在代理AI领域的日益重要作用。首先是谷歌云部门决定将其Agent2Agent协议贡献给Linux基金会。该协议提供数据在代理之间移动的功能,减轻了开发人员之前需要编写跨代理通信代码的负担。
另一个重要事件是Linux基金会在8月份宣布接管Solo.io的开源Agentgateway项目——这是一个针对代理环境优化连接性和可观测性的AI原生代理。此外,由谷歌和红帽公司等组成的联盟提交的代理工作流程标准Agntcy也被基金会接受。
“代理正引起人们的关注。”布赖斯说,“我们现在处于制定正确框架和协议的非常早期阶段。当我观察代理空间时,我看到这些框架和项目都是开源的。”
通过OpenFGA构建权限
除了代理AI协议,云原生世界还在开发涵盖安全和模型管理的新工具。其中一项即将推出的工具是开放细粒度授权(OpenFGA)。这款源自谷歌Zanzibar系统的角色基础访问控制的开源授权引擎,上个月进入了CNCF的孵化成熟度级别。
OpenFGA旨在定义系统内谁可以做什么,以毫秒级的速度提供授权检查。这款开源工具预计将吸引寻求灵活性的开发者,因为各组织正构建日益复杂的基于AI的工作流。
“我们把这些权限放在盒子里。”布赖斯说,“OpenFGA可以将不同的权限组合在一起。这是一种更复杂的模型,但在考虑自主AI系统时,它是最合适的模型。”
推理模型的兴起
随着越来越多的企业采用开源AI解决方案,语言模型本身也成为了云原生社区的关注焦点。麦肯锡公司发布的一项研究发现,在全球调查的700多名技术领导者中,超过半数正在使用开源AI模型,而在技术行业内部,这一比例上升至70%以上。
开源AI模型的发展和接受的一个关键时刻发生在近一年前,当时中国初创公司DeepSeek发布了多个低成本的大规模语言模型中的第一个。
“这确实是过去一年我们在AI领域看到的开源浪潮的催化剂。”布赖斯指出,“DeepSeek真正启动了这一切。”
自那以后,不仅出现了大量新的开源模型,这些模型内部的推理能力也得到了发展。推理模型与标准的大规模语言模型(LLM)不同,它们能够在实时响应时进行“事实核查”。去年11月发布的DeepSeek的R1模型被吹捧为能与OpenAI集团PBC的类似产品相媲美。中国科技巨头阿里巴巴控股有限公司声称,其新推出的Qwen-3系列开源AI推理模型在四月份的市场表现优于其他同类产品。
据Red Hat工程总监罗伯特·肖(Robert Shaw)表示,这种具有推理能力的新模型的发展为开源领域提供了重要的增长机会。“一些专有模型中加入的推理功能开始出现在开源模型中,”肖在接受theCUBE采访时说,“我们看到真正大型的开源模型正在发布,具备前沿能力。这是开源模型整体质量持续改进的结果,正是这一点解锁了推动当前热潮的企业应用案例和消费者应用案例。我认为这是一个非常好的趋势。”
### 开源推理平台的趋势
在开源社区内,另一个趋势是向开放权重模型的转变。“权重”是指训练过程中学到的参数,这些参数公开可用,允许用户下载并在本地运行。由于这些模型并非完全开源,因此它们代表了介于开源和闭源产品之间的一个中间地带。今年3月,OpenAI宣布将推出自2019年以来的第一个开放权重模型。三个月前,亚马逊网络服务公司(Amazon Web Services Inc.)在其Amazon Bedrock和Amazon SageMaker JumpStart上提供了OpenAI的开放权重模型。
对开源模型的兴趣日益增长,以及开放权重更加普及的早期迹象,源于现实情况——AI平台不会只依赖单一模型或推理服务器运行。新的平台正在出现,这可能是一个专有架构和开源架构的混合体。“公司真的开始思考他们的推理平台是什么样的,”肖说,“我与许多客户交谈过,他们中很多人正在运行专有API。我开始看到许多公司为未来做规划,随着这些开源模型变得更好,成本开始上升,我的平台会是什么样子?未来20年我的私有大规模语言模型云的基础是什么?”
### AI基础设施的形成
肖提出的问题引发了旨在通过提供适应AI演变世界的基础设施来回答这些问题的一系列新公司的成长。其中一个例子是Spacelift Inc.,该公司提供了一个代码即服务的编排平台,能够以无代码的方式配置云工作负载。该公司上个月发布的增强功能提供了一种代理基础设施部署模式,允许使用自然语言命令分配云资源。
最新的开源版本Spacelift Intent通过代理配置实现了对云基础设施的更精确控制。“Spacelift将控制这些功能,”Spacelift联合创始人兼首席研发官马辛·维辛斯基(Marcin Wyszynski)在接受theCUBE采访时说,“我们将制定政策,防止您的大规模语言模型做您不希望它做的事情,除此之外,让您的编码代理继续施展魔法。如果您想向其他人展示您的项目并将其部署到AWS,那么Intent就会发挥作用,让您实现这一目标。”
重新定义AI基础设施编排的另一关键参与者是Vast Data Inc.,该公司最近推出了设计用于直接在传入数据上操作的无服务器计算函数和触发器。这种方法使得企业在多租户环境中实时运行推理和索引工作负载成为可能。“这两种功能——函数和触发器——的结合使我们能够在数据进入系统时实时调用计算,”Vast Data Inc.联合创始人兼首席技术官阿隆·霍雷夫(Alon Horev)在接受theCUBE采访时说,“这使我们能够索引信息,同时尽快、尽可能快地触发应用程序完成任务。”
另一家云原生基础设施公司Backblaze Inc.提供了构建以满足开发者需求的云存储和服务。该公司最近宣布了一套针对云原生安全性和简化管理的企业级Web控制台和基于角色的访问控制。“我们看到了构建和使用AI的整个工作流程,”Backblaze的首席执行官格莱布·布德曼(Gleb Budman)解释道。
Backblaze的首席执行官在接受theCUBE采访时说:“首先,公司需要收集所有想要使用的数据,然后进行标注,构建模型,再基于这些模型进行推理,最后记录和跟踪所有信息。因此,我们在这一系列流程的各个环节都看到了Backblaze的应用。”
随着开源社区准备本月参加KubeCon,人工智能快速发展对其云原生世界的影响显而易见。各家公司正在积极开发新工具,以支持尚未成型的技术基础设施,尽管该技术仍处于起步阶段。
然而,开源生态系统显然正被一股强大的推力带向新的高度,这将对企业AI的未来方向产生重大影响。“我们正在讨论全新的范式,而这些新范式最适合在开放环境中构建。”Wyszynski告诉theCUBE,“如果人们不了解其工作原理,看不到代码,无法尝试,无法扩展功能,那么他们就不会信任它,也不会采纳它。赢得胜利的是开放标准。”
(披露:theCUBE是KubeCon + CloudNativeCon NA活动的付费媒体合作伙伴。红帽和谷歌云作为theCUBE活动报道的头条和首席赞助商,以及其他赞助商,对theCUBE和SiliconANGLE上的内容没有编辑控制权。)
图片:Microsoft Designer/SiliconANGLE
来自SiliconANGLE联合创始人John Furrier的信息:
支持我们的使命,让内容保持开放和免费,通过参与theCUBE社区来实现这一点。
加入theCUBE校友信任网络,这里是技术领导者连接、分享情报和创造机会的地方。
1500多万观众观看theCUBE视频,推动了关于人工智能、云计算、网络安全等话题的对话。
超过11400名theCUBE校友——与超过11400名技术和商业领袖建立联系,他们通过独特的基于信任的网络塑造未来。
关于SiliconANGLE Media
SiliconANGLE Media是数字媒体创新的公认领导者,结合突破性技术、战略洞察和实时受众互动。作为SiliconANGLE、theCUBE Network、theCUBE Research、CUBE365、theCUBE AI和theCUBE SuperStudios的母公司——旗舰地点位于硅谷和纽约证券交易所——SiliconANGLE Media在媒体、技术和AI的交汇处运营。
由技术远见者John Furrier和Dave Vellante创立,SiliconANGLE Media已经建立了一个动态的行业领先数字媒体品牌生态系统,覆盖1500多万精英科技专业人士。我们的新专有theCUBE AI Video Cloud正在观众互动领域取得突破,利用theCUBEai.com神经网络帮助技术公司做出数据驱动的决策,保持在行业对话的前沿。
(以上内容均由Ai生成)