为什么 AI 网关正在成为云原生的下一个战场
快速阅读: 据《硅角度》称，人工智能网关正成为管理AI应用的新焦点。Traefik Labs CEO苏德普·戈斯瓦米指出，随着AI从训练转向推理，网关需优化推理、保障数据合规、集成API管理并支持多环境推理。合作伙伴关系至关重要，AI是开发加速器而非替代品。未来，轻量化技术和分布式部署将是趋势。
在构建智能应用的竞争中，一个新的发展方向正在浮现：人工智能、API与基础设施的交汇点。2025年伦敦KubeCon + CloudNativeCon欧洲大会期间，人工智能的兴趣不再局限于模型训练或GPU的可用性，而是在模型部署后、推理成为新瓶颈之后，出现了对新控制点的需求——人工智能网关。
在theCUBE Research的《AppDevANGLE》播客最新一期中，Traefik Labs首席执行官苏德普·戈斯瓦米（苏德普·高斯瓦米）与SiliconANGLE和theCUBE的保罗·纳沙瓦蒂（保罗·纳什瓦蒂）探讨了这一变化。戈斯瓦米不仅是作为该领域的供应商，更是作为观察到数十个合作伙伴和客户模式的人，深入剖析了这一趋势。他提到的内容与其说是下一代模型，不如说是连接这些模型与实际应用的隐形管道。“如果你不采取措施设置护栏，”戈斯瓦米说，“坏事会迅速发生。”
从爆发式增长到受控管理，组织正在以前所未有的速度构建人工智能应用。theCUBE Research数据显示，人工智能已从试点阶段快速进入生产阶段：一年前仅有18%的生产应用采用人工智能，这一比例已上升至超过54%。但随着速度而来的是混乱。开发人员正在部署更多API以连接更多模型，通常是在混合环境中，包括SaaS平台、边缘环境和多云集群。这种快速增长悄然引发了一个关键问题：我们如何管理并监控这些由API驱动、AI驱动的工作负载？
**人工智能网关的崛起**
戈斯瓦米表示，答案正在以人工智能网关和下一代基础设施层的形式显现，它们充当微服务、模型与运行它们的人之间的连接纽带。人工智能网关一直是云原生架构的关键组成部分，位于后台，用于路由、管理和保护服务间通信。但在以人工智能为中心的世界中，责任正在发生变化。如今的人工智能网关必须：
– 处理语义缓存以优化推理任务。
– 通过管理模型输入和输出来确保数据隐私与合规性。
– 与API管理工具集成以避免“影子AI”。
– 支持在CPU、GPU、神经处理单元或语言处理单元驱动的边缘设备上进行推理。
“你部署的人工智能越多，你创建的API就越多，”戈斯瓦米说，“这带来了API管理问题。”
**更好的结合：为什么合作伙伴关系重要**
戈斯瓦米方法中最引人注目的是他对合作伙伴关系的强调。Traefik Labs最近宣布与Nutanix Inc.、Oracle Corp.、Azure和Akamai Technologies Inc.等公司推出新的参考架构与集成方案。每个方案旨在简化人工智能交付的不同环节，从安全边缘部署到容器原生API工作流。这些不是理论架构，而是帮助开发人员和架构师有信心从测试转向生产的实用指南。戈斯瓦米将此称为“更好结合”的心态，承认没有供应商是孤立存在的。
**人工智能掌舵，但开发者仍掌控全局**
谈话并非全是基础设施。它还触及了人工智能在开发团队内部引发的文化转变。一些公司已经在使用人工智能生成代码，但戈斯瓦米和纳沙瓦蒂反对人工智能取代开发者的观点。“我们必须提升自己，”戈斯瓦米说。“如果人工智能完成了我十个任务中的三个，我现在可以做什么？”换句话说，人工智能不是开发的终点，而是加速器。问责制依然重要，甚至比以往任何时候都更重要。戈斯瓦米分享了一些团队将人工智能生成的错误归咎于模型的故事，却忘了人类仍然对质量、治理和可靠性负有责任。
**展望未来**
随着模型从集中式云迁移到分布式边缘位置，智能应用的拓扑结构正在发生变化。推理不必在训练它的同一数据中心运行。出于性能、合规性和成本考虑，它或许不应如此。因此，Traefik Labs正在投入开源工具和边缘的小型模型推理。这也是为什么戈斯瓦米对WebAssembly等技术持乐观态度，这些技术提供了无需重型基础设施即可运行的便携式、轻量级运行时。“WebAssembly与人工智能正成为现代应用交付的黄金组合，”他说。
**底线**
今年基础设施之所以成为热门话题是有原因的：人工智能已经到来，且不会放缓。然而，要驾驭它，组织需要的不仅仅是模型。他们需要在管道中成熟，在网关中控制，在API中可见。在这个世界里，人工智能网关不仅仅是一个功能；它们是一个基础。
以下是与theCUBE Research的保罗·纳沙瓦蒂和苏德普·高斯瓦米的完整对话，属于theCUBE Research的《AppDevANGLE》播客系列：
照片来源：SiliconANGLE
来自SiliconANGLE联合创始人约翰·费雷尔的消息：“您的支持对我们很重要，它帮助我们保持内容免费。只需点击一下即可支持我们的使命，提供免费、深入和相关的内容。加入包含超过15,000名#CubeAlumni专家的社区，其中包括亚马逊公司首席执行官安迪·贾西、戴尔科技创始人兼首席执行官迈克尔·戴尔、英特尔首席执行官帕特·格尔辛格等众多名人和专家。‘theCUBE是行业的重要合作伙伴。你们确实是我们的活动的一部分，我们非常感谢你们的到来，我知道人们也很欣赏你们创造的内容。’——安迪·贾西”
(以上内容均由Ai生成)
