新型APU挑战GPU霸主地位,能耗降低98%
快速阅读: GSI Technology 推出 Gemini-I APU,减少数据交换提升检索速度80%,能耗比标准 GPU 低98%。康奈尔大学研究确认其性能,未来 Gemini-II 预计吞吐量提高十倍。
GSI Gemini-I APU 减少了处理器与内存系统之间的频繁数据交换,完成检索任务的速度比同类 CPU 快达 80%。即将推出的 Gemini-II APU 的吞吐量预计将提高十倍。GSI Technology 正在推广一种新的方法,将计算直接置于内存中,以处理人工智能任务。
康奈尔大学的一项新研究关注了这种被称为关联处理单元(APU)的设计。该设计旨在克服长期存在的性能和效率限制,可能挑战目前用于人工智能工具和数据中心的最佳 GPU 的主导地位。
最新的研究发表在 ACM 期刊上,并在最近的 Micro ’25 会议上进行了展示,评估了 GSI 的 Gemini-I APU 与领先的 CPU 和 GPU(包括 Nvidia A6000)相比的表现,测试对象包括从 10 到 200GB 的数据集,代表了现实的 AI 推理条件。
通过在静态 RAM 中执行计算,APU 减少了传统 GPU 架构中处理器与内存之间频繁的数据传输,这是导致能量损失和延迟的主要原因。结果显示,APU 能够实现与 GPU 相当的吞吐量,同时消耗的能量远少于标准 GPU。GSI 报告称,其 APU 的能耗比标准 GPU 低 98%,完成检索任务的速度比同类 CPU 快 80%。
这种高能效使得 APU 对无人机、物联网系统和机器人等边缘设备以及对能源和冷却有严格要求的国防和航空航天领域具有吸引力。
尽管如此,计算内存技术能否达到当前最佳 GPU 平台所拥有的成熟度和支持水平仍不确定。GPU 目前得益于完善的软件生态系统,可以与主要的人工智能工具无缝集成。对于计算内存设备而言,优化和编程仍然是新兴领域,可能会减缓大规模数据中心操作中的广泛采用。
GSI Technology 表示将继续改进其硬件,预计第二代 APU 芯片 Gemini-II 将提供十倍的更高吞吐量和更低的延迟。另一款名为 Plato 的设计正在开发中,旨在进一步提升嵌入式边缘系统的计算性能。
“康奈尔大学的独立验证证实了我们长期以来的信念,计算内存技术有可能颠覆价值 1000 亿美元的 AI 推理市场,”GSI Technology 董事长兼首席执行官 Lee-Lean Shu 说,“APU 在能源成本极低的情况下实现了 GPU 级别的性能,这要归功于其高效的内存中心架构。我们最近发布的第二代 APU 芯片 Gemini-II,能够为内存密集型 AI 工作负载提供大约 10 倍更快的吞吐量和更低的延迟。”
来源:TechPowerUp
(以上内容均由Ai生成)