AI自主行动需强大基础设施支撑
快速阅读: 大多数企业讨论代理型人工智能时聚焦模型和数据,忽视了基础设施的重要性。高性能网络对于支持实时决策、确保系统自主性至关重要,否则将导致延迟增加和安全性下降。
大多数企业在讨论代理型人工智能(agentic AI)时,仍主要集中在模型和数据方面,例如如何构建它们、管理它们以及将它们投入生产。这是合理的,因为代理型人工智能依赖于实时、可信的数据和灵活的模型交付基础。然而,这些层次并不是孤立运作的。每次人工智能系统采取行动,无论是重新规划配送路线、标记欺诈尝试还是安排维护,背后都有基础设施在移动数据、执行决策并实时强制访问策略。最终的成功取决于网络能否跟上步伐。
正如英伟达首席执行官最近强调的,“网络就是计算机。”代理型人工智能将决策推向边缘,将云平台、本地数据中心、边缘设备和物联网系统的数据缝合在一起。这些组件必须保持持续连接和同步,确保决策能够即时在需要的地方执行。如果没有高性能网络来维持这种协调水平,自主性就会停滞不前。
GTT最新的研究显示,在最大的企业细分市场中,私有云支出的增长速度是公有云的两倍多。这一转变反映了先进人工智能时代对控制性能、成本和安全性的日益增长的压力。然而,负责提供这种控制的网络和安全架构往往落后。推理工作负载停滞,延迟增加,访问差距出现。结果是,那些旨在自主运行的系统最终却在等待基础设施的支持。
相关文章:随着开源人工智能的发展,责任和治理必须跟上步伐
代理型人工智能带来了新的需求,传统架构从未为此设计。它将智能分布在云端、数据中心和边缘。这改变了当前基础设施的一切。
首先,代理型人工智能的工作负载高度分散。它们可能涉及公共云、私有云和边缘环境的组合,具体取决于数据和决策的位置。这使得在不同地点保持一致、安全的性能变得更加复杂。
其次,这些工作负载对延迟敏感。当代理用于欺诈检测、物流路由或触发制造控制系统时,即使是微小的延迟也可能导致成本高昂的错误、超时或错误决策。传统的网络,为批处理过程或静态流量设计,并未针对这种响应速度进行优化。
第三,代理型人工智能显著增加了机器对机器的通信量。不仅仅是直接服务于用户,代理还会调用API、访问工具并将任务委托给其他代理或服务。如果网络不能根据上下文和重要性动态路由和优先处理这些流量,事情很快就会出错。
最后,还有安全问题,其风险最高。在代理系统中,更多的端点意味着对敏感系统的自动化访问更多。单个配置错误的策略或被破解的凭据可能会造成更广泛的影响。而当决策背后的数据显示过时、不完整或不准确时,结果就是在高速大规模下执行猜测。
为了在规模上发挥作用,代理型人工智能需要一个为自主性设计的网络和安全堆栈。以下是五个关键领域:
1. 现代化SD-WAN以支持实时推理
人工智能工作负载不可预测、对延迟敏感,且经常源自传感器、机器人或边缘设备等非传统端点,因此动态路径选择、智能流量优先级划分和应用程序感知路由变得至关重要。静态SD-WAN策略,适用于电子邮件或文件共享流量,无法满足需求。IT团队不仅需要优化路径以提高性能,还要确保能够优先处理低延迟推理流量,而非大量或非紧急的工作负载。
相关文章:将GPT集成到医疗保健的真实成本
2. 将零信任和SASE扩展到人工智能工作负载
智能代理AI系统能够自主发起行动,与其他工具和API互动,甚至在不同环境中串联决策。这迅速扩大了攻击面,使得基于身份的访问控制和持续验证成为必需。仅仅将零信任原则应用于用户是不够的,还需要将其扩展到服务、代理和模型上,并应用能够适应上下文的细粒度策略。SASE框架可以帮助统一这些措施在环境中的实施,前提是它们能考虑到现代AI工作负载的动态性和去中心化特性。
部署全栈可观测性
推理峰值可能由用户行为、环境数据或自主代理活动触发。当这种情况发生时,可能会导致带宽紧张、边缘资源过载或相邻服务性能下降。全栈可观测性为IT团队提供了所需的可见性以作出响应。更重要的是,它使团队能够在AI决策流变成支持票务激增之前,对模型行为、网络性能和用户体验进行主动调优和根本原因关联。
重新思考面向本地化的AI边缘架构
随着AI向边缘推理转移,组织需要将计算和连接能力更靠近数据生成和行动发生的地方。这意味着要重构边缘站点,不仅支持本地处理,还要实现与中央基础设施的集成,同时确保安全可靠的网络连接,而不引入新的缺口或孤岛。这不仅仅是关于带宽的问题。成功的智能代理AI需要接近性、政策执行和故障容忍。
利用托管服务简化并安全地扩展
转向智能代理AI带来了大多数企业难以独自应对的技术需求。从流量工程到政策执行和可观测性集成,操作复杂性可能比AI堆栈本身增长得更快。与托管服务提供商合作可以减轻这一负担。如果做得正确,企业可以专注于AI成果,而不是底层技术,同时在整个网络中保持全面的可见性和控制。
智能代理AI的发展速度取决于您的基础设施
如果您的基础设施不具备实时行动的能力,那么您的AI也不会具备。具有前瞻性的IT团队已经不再将网络和安全现代化视为次要项目,而是作为可扩展、自主系统的基石。其余的企业不仅会落后,还会因未能更新基础设施而停滞不前。
作者简介:
Darren Wolner,GTT产品管理副总裁,领导GTT托管服务、专业服务、SD-WAN、SASE和网络安全产品的开发和生命周期管理。作为一名远见者,他设定公司的绩效目标,推动创新并与市场发展保持一致,同时满足企业客户的需求。他带领团队帮助客户通过全托管、全数字、按需体验来导航其业务转型之旅,同时保护其环境免受当今的网络威胁。
(以上内容均由Ai生成)