IBM联手Groq，LPU技术加速watsonx平台五倍性能提升

快速阅读: IBM与Groq达成战略合作，将Groq的高性能推理技术集成至Watsonx平台，提升企业AI解决方案的速度和成本效益，特别在医疗和零售领域应用广泛，助力AI技术从试点转向生产。

【AIbase 报道】IBM 宣布与芯片初创公司 Groq 达成战略合作，将 Groq 的高性能推理技术集成到 Watsonx 平台，为企业客户提供更快、更具成本效益的人工智能解决方案。此次合作标志着 IBM 在企业级 AI 加速领域迈出了关键一步。

通过此次合作，IBM 用户可以在 Watsonx Orchestrate 中直接访问 GroqCloud 服务。Groq 以其自主研发的语言处理单元（LPU）架构闻名，声称在特定 AI 推理任务上，其速度可比传统 GPU 系统快五倍以上，同时显著降低能耗与成本。

IBM 表示，双方的技术整合将首先应用于医疗保健和零售场景。例如，在医疗领域，系统能够高效响应数千名患者的查询；在零售业，则可以用于人力资源与供应链的智能自动化。此外，IBM 和 Groq 还计划将 Red Hat 开源的 vLLM 技术与 Groq 的 LPU 硬件相结合，以提高模型部署的灵活性，并使 GroqCloud 支持 IBM 自研的 Granite 模型。目前，IBM 客户已经可以直接使用 GroqCloud 的核心功能。

成立于 2016 年的 Groq，已有超过 200 万开发者，定位为 GPU 的替代方案，是“美国 AI 堆栈”的重要组成部分。此次合作不仅提升了 Watsonx 的运算性能，还旨在帮助企业在医疗、金融、政府、零售与制造等行业中，将 AI 代理从试点阶段扩展到生产环境，这些行业对速度、成本与可靠性有极高的要求。

(以上内容均由Ai生成)