高通发布新一代 AI 芯片,挑战英伟达股价大涨 20%
快速阅读: 高通发布AI200和AI250芯片,挑战英伟达,股价上涨超20%。AI200降低TCO,支持768GB内存;AI250内存带宽提升10倍,功耗低。配备液冷技术,优化AI推理。
高通公司正式发布了新一代人工智能芯片——AI200和AI250,此举旨在挑战市场领导者英伟达。此次发布会引起了广泛关注,公司股价随之上涨超过20%。
高通AI200芯片专为机架级AI推理设计,旨在降低总体拥有成本(TCO)并提升性能。该芯片支持768GB的LPDDR内存,这样的内存容量和较低的成本为大型语言模型(LLM)和多模态模型(LMM)的推理提供了强大支持。
相比之下,高通的AI250采用了近内存计算(near-memory computing)的创新架构,这种架构使其能提供超过10倍的内存带宽,同时显著降低功耗,提高AI推理任务的效率与性能。两款芯片均配备了直接液冷技术,以增强散热效果。
除了硬件,高通还推出了一套全面的AI软件栈,涵盖从应用层到系统软件层的所有内容,专门针对AI推理进行了优化。开发者可借助高通的Efficient Transformers Library和AI推理套件,轻松实现模型的部署和管理。该软件栈支持众多主流机器学习框架和推理引擎,为AI应用的开发提供了丰富的工具、库和API。
预计高通的AI200和AI250将在2026年和2027年正式商用。此次发布不仅展示了高通在AI领域的雄心,也引发了市场的高度关注。
(以上内容均由Ai生成)