AMD 与 Rapt AI 合作，在 Instinct GPU 上实现 AI 工作负载管理自动化

快速阅读: 据《硅角度》最新报道，AMD与人工智能初创公司Rapt AI合作，优化其Instinct品牌GPU在AI训练和推理上的性能。Rapt AI的软件能自动管理GPU工作负载，提升效率、降低成本。两家公司计划未来进一步优化GPU调度和内存利用率，为客户提供更优解。

超威半导体公司今日宣布，正与一家名为Rapt AI公司的人工智能初创企业合作，以提升其Instinct品牌图形处理单元在人工智能训练和推理性能方面的能力。Rapt AI是一家智能平台开发商，其平台利用人工智能技术自动管理高规格GPU的工作负载，帮助企业最大化性能和扩展性，简化应用程序的部署，并降低人工智能应用的成本。

许多企业正在努力应对AI应用带来的挑战，主要原因是客户必须依赖庞大的GPU集群来支持最复杂的任务，但很多人难以有效管理这些资源。因此，迫切需要更高效的资源配置，以避免GPU工作负载出现性能瓶颈。Rapt AI首席技术官Anil Ravindranath指出：“随着越来越多的组织将AI投入生产环境，最大化基础设施的效率和降低成本变得至关重要。”

Rapt AI的软件旨在与AMD Instinct加速器（如MI300X、MI325X以及即将推出的MI350 GPU）配合使用，这些产品被视为英伟达公司更为知名的H100、H200和新“Blackwell”AI加速器的替代品。通过使用Rapt AI的自动化软件智能管理AMD GPU舰队，公司可以确保在任何类型的AI工作负载下都能从芯片中获得最大性能，从而充分利用这些资源以降低总拥有成本。该软件还帮助简化了在本地和云环境中的AI应用程序部署。

根据Rapt AI的说法，它允许组织通过自动设置最优化的工作负载平衡，节省数小时的时间来试验不同的基础设施配置，即使是在由多种GPU组成的多样化计算集群中也是如此。结果将是生产AI部署的推理和训练性能得到改善，可扩展性增加，而Rapt AI独特的自动扩展软件则会根据应用程序需求优化资源配置。

AMD与Rapt AI的合作意味着该软件将完美地与所有AMD Instinct GPU一起开箱即用，帮助客户实现简单的部署即可获得即时的性能提升。此外，两家公司计划未来继续合作，以进一步优化GPU调度、内存利用率等领域，持续提高性能，确保客户能够访问到最优且最具成本效益的人工智能基础设施。

Rapt AI首席执行官Charlie Leeming表示：“通过更紧密地与AMD合作，我们可以开发出更复杂精细的性能优化方案，为联合客户提供更多优势。这一联合解决方案势必将革新AI基础设施管理模式，为我们共同的客户提供更好的性能、更高的成本效率以及更快的价值实现速度。”

图片：AMD
来自SiliconANGLE联合创始人John Furrier的信息：您的支持对我们非常重要，这有助于我们维持内容免费。加入我们的YouTube社区，加入包含超过15,000位#CubeAlumni专家的社区，其中包括亚马逊CEO安迪·贾西、戴尔科技创始人兼CEO迈克尔·戴尔、英特尔CEO帕特·格尔辛格等众多名人和专家。
“CUBE是我们行业的重要合作伙伴。你们确实是我们的活动的一部分，我们非常感谢你们的到来，我知道人们也欣赏你们制作的内容。”——安迪·贾西

谢谢。

(以上内容均由Ai生成)