Juniper与HPE合作,推动AI智能自动化网络解决方案
快速阅读: 瞻博网络与惠普合作,开发AI优化以太网,解决数据中心网络压力,提升性能、智能自动化、安全性和部署简便性,助力企业大规模实施AI。
企业正从人工智能试点转向大规模生产,这对数据中心网络施加了巨大压力。支持图形处理单元密集型训练和可扩展推理需要原始带宽、智能自动化以及安全、稳定的基础设施。为了满足这些需求,瞻博网络公司将其以太网研究和验证蓝图与惠普公司的机架规模服务器和超级计算专长相结合。他们旨在提供预先测试的系统,为人工智能就绪网络创造更强的基础,瞻博网络数据中心平台和人工智能解决方案副总裁Praful Lalchandani(图中)表示:“人工智能训练是一个广泛分布的计算问题,推断也是如此。对于大多数企业来说,他们可能不会构建大型语言模型,而更可能是这些模型的消费者。我的意思是,无论是训练还是推断都是高度分布式的,这意味着网络必须具有高性能。”
瞻博网络的Jon Green(右)和HPE的Bharath Ramesh(左)在《网络为AI峰会》活动期间与theCUBE的Bob Laliberte进行了独家直播访谈。他们讨论了这种集成方法如何解决性能、智能自动化、安全性和部署简便性的问题,使企业有信心扩大其人工智能目标。
性能至关重要,但安全性不能被忽视。对企业而言,从一开始就整合保护的重要性不容小觑。无论AI服务是作为软件即服务还是基础设施即服务消费,多租户都会引入风险,Green认为最安全的路径是企业自有的基础设施,这样可以保持完全控制。“AI与标准企业系统的一个重要区别在于数据本身的可观察性。”他说,“考虑一个已经过训练的AI模型,现在我将通过它进行推断,因为诸如标记化等因素,这个数据——即编程——将成为一个非常大的向量空间。这将是一系列数字,实际上没有真正的方法来知道这些数字究竟意味着什么。”
AI引入了新的安全风险,特别是关于数据完整性。与传统应用程序不同,其中异常可以追溯到代码或记录,AI输出源自不透明的向量空间,使得对抗攻击和数据中毒尤其危险。Green说:“我们能做的最重要的事情就是控制那部分基础设施。在此之后,标准的企业安全控制仍然有效,但我希望看到集群内部发生了什么。”
为了实现大规模推断,HPE和瞻博网络正在开创“AI优化以太网”。仅仅增加带宽是不够的——以太网最初设计为尽力而为的协议,而非无拥塞的协议。然而,通过远程直接内存访问感知负载均衡和数据中心量化拥塞通知等技术,瞻博网络提高了以太网的可预测性和性能,使其成为曾经由InfiniBand主导的智能自动化工作负载的可行选择。Ramesh补充说:“我们已经将这些提炼成参考架构,不仅涵盖了硬件构建模块,还包括平台构建模块、软件和服务构建模块,以大规模构建和操作此系统。你可以从80%的解决方案开始迭代,而不是每次都从0%开始。因为我们相信,客户越快上手并成功实施大规模AI,他们就越成功,我们也因此更加成功。”
以下是完整的视频采访,这是SiliconANGLE和theCUBE对《网络为AI峰会》活动报道的一部分。
与超过11,400名技术及商业领袖建立联系,共同塑造未来,通过独特的基于信任的网络实现这一目标。
关于SiliconANGLE Media
SiliconANGLE Media是数字媒体创新领域的公认领导者,将突破性技术、战略洞察力和实时观众互动相结合。作为SiliconANGLE、theCUBE Network、theCUBE Research、CUBE365、theCUBE AI和theCUBE SuperStudios的母公司——其旗舰地点位于硅谷和纽约证券交易所——SiliconANGLE Media在媒体、技术和人工智能的交汇点运营。
由技术远见者John Furrier和Dave Vellante创立的SiliconANGLE Media,构建了一个动态生态系统,旗下行业领先的数字媒体品牌覆盖了1500多万顶尖技术专业人士。我们的新专有产品theCUBE AI Video Cloud正在观众互动领域取得突破,利用theCUBEai.com神经网络帮助技术公司做出数据驱动的决策,保持在行业对话的前沿。
(以上内容均由Ai生成)