Google Cloud 推出首款由 Blackwell AI GPU 提供支持的实例 — 72 路 GB200,配备 72 个 B200 GPU 和 36 个 Grace CPU
快速阅读: 《Tom 的硬件》消息,谷歌的A4X虚拟机使用了配备72块B200 GPU和36块72核格蕾丝CPU(总计2,596个基于Armv9架构的涅瓦V2内核)的英伟达NVL72服务器。这些组件通过NVLink连接,使所有GPU能无缝共享内存,提高响应速度和推理精度。该系统还支持并发推理请求,适用于多模态人工智能应用。
谷歌的A4X虚拟机利用了英伟达的NVL72服务器,该服务器配备了72块B200 GPU和36块72核格蕾丝CPU(总计有2,596个基于Armv9架构的涅瓦V2内核),并通过NVLink相连。这使得所有72块GPU能够通过NVLink实现无缝内存共享,从而提升响应速度和推理精度。该系统还支持并发推理请求,适用于多模态人工智能应用。
(以上内容均由Ai生成)