AMD发布锐龙AI Max+ 395,1280亿参数大模型本地运行成现实
快速阅读: 据《AIbase – AI新闻资讯》称,今日,AMD宣布推出基于Zen5架构的锐龙AI Max+395处理器,该处理器首次实现本地运行1280亿参数的大模型,支持68GB、1230亿参数的Mistral Large模型及多个小型模型,最大支持256000Tokens的上下文长度,显著提升AI处理能力。配备128GB内存的迷你AI工作站售价约1.3万元,降低高端AI应用门槛。
今日,AMD宣布推出基于Zen5架构的锐龙AI Max+395处理器,标志着该公司再次引领科技潮流。这款处理器不仅在行业内表现出色,而且是首款能够本地运行700亿参数AI大模型的平台。现在,AMD进一步宣布,锐龙AI Max+395已经能够支持本地运行高达1280亿参数的大模型,大大扩展了其在AI领域的应用潜力。
为了达到这一性能水平,锐龙AI Max+395需要配备128GB的统一内存,其中96GB必须分配为显存。此外,该处理器还需在Vulkan llama.cpp环境下运行,为开发者提供更大的灵活性。通过此次升级,锐龙AI Max+395成为首个能够运行1090亿参数Meta Llama4S大模型的平台,该模型体积达66GB,支持Vision和MCP等多种高级功能。
此次升级的关键在于采用了混合专家(MoE)模式,该模式每次仅激活模型的部分组件,从而在保持高性能的同时大幅减少资源消耗。实测显示,锐龙AI Max+395可实现每秒15Tokens的处理速度,表现出色。同时,它还支持68GB、1230亿参数的Mistral Large模型,以及多个小型模型,如18GB、300亿参数的Qwen3A3B和17GB、270亿参数的Google Gemma。
在上下文处理能力方面,锐龙AI Max+395实现了质的飞跃,最大支持256000Tokens的上下文长度,能够处理和分析更加复杂的数据。尽管一般非大规模模型在32000Tokens的上下文中已足够使用,但此次升级为处理超大规模上下文提供了更多可能,以往需高端设备才能实现的功能,现在在AMD的产品中也能轻松实现。
价格方面,配备锐龙AI Max+395和128GB内存的迷你AI工作站,售价已降至约1.3万元,性价比显著提高,大幅降低了高端AI应用的门槛。
(以上内容均由Ai生成)