AMD发布锐龙AI Max+ 395,1280亿参数大模型本地运行成现实

发布时间:2025年7月30日    来源:szf
AMD发布锐龙AI Max+ 395,1280亿参数大模型本地运行成现实

快速阅读: 据《AIbase – AI新闻资讯》称,今日,AMD宣布推出基于Zen5架构的锐龙AI Max+395处理器,该处理器首次实现本地运行1280亿参数的大模型,支持68GB、1230亿参数的Mistral Large模型及多个小型模型,最大支持256000Tokens的上下文长度,显著提升AI处理能力。配备128GB内存的迷你AI工作站售价约1.3万元,降低高端AI应用门槛。

今日,AMD宣布推出基于Zen5架构的锐龙AI Max+395处理器,标志着该公司再次引领科技潮流。这款处理器不仅在行业内表现出色,而且是首款能够本地运行700亿参数AI大模型的平台。现在,AMD进一步宣布,锐龙AI Max+395已经能够支持本地运行高达1280亿参数的大模型,大大扩展了其在AI领域的应用潜力。

为了达到这一性能水平,锐龙AI Max+395需要配备128GB的统一内存,其中96GB必须分配为显存。此外,该处理器还需在Vulkan llama.cpp环境下运行,为开发者提供更大的灵活性。通过此次升级,锐龙AI Max+395成为首个能够运行1090亿参数Meta Llama4S大模型的平台,该模型体积达66GB,支持Vision和MCP等多种高级功能。

此次升级的关键在于采用了混合专家(MoE)模式,该模式每次仅激活模型的部分组件,从而在保持高性能的同时大幅减少资源消耗。实测显示,锐龙AI Max+395可实现每秒15Tokens的处理速度,表现出色。同时,它还支持68GB、1230亿参数的Mistral Large模型,以及多个小型模型,如18GB、300亿参数的Qwen3A3B和17GB、270亿参数的Google Gemma。

在上下文处理能力方面,锐龙AI Max+395实现了质的飞跃,最大支持256000Tokens的上下文长度,能够处理和分析更加复杂的数据。尽管一般非大规模模型在32000Tokens的上下文中已足够使用,但此次升级为处理超大规模上下文提供了更多可能,以往需高端设备才能实现的功能,现在在AMD的产品中也能轻松实现。

价格方面,配备锐龙AI Max+395和128GB内存的迷你AI工作站,售价已降至约1.3万元,性价比显著提高,大幅降低了高端AI应用的门槛。

(以上内容均由Ai生成)

你可能还想读

印尼副部长呼吁谨慎使用AI进行公共沟通

印尼副部长呼吁谨慎使用AI进行公共沟通

快速阅读: 印度尼西亚通信和数字事务部副部长Nezar Patria呼吁公共关系专业人员谨慎、道德地使用AI,强调AI虽具潜力,但需人类监督与伦理责任,确保沟通质量与真实性。 雅加达(ANTARA)- 印度尼西亚通信和数字事务部副部长Nez […]

发布时间:2025年10月23日
名人及AI巨头呼吁停止追求超智能

名人及AI巨头呼吁停止追求超智能

快速阅读: 超过700名科学家、政治人物和名人呼吁暂停开发超人工智能,直至技术安全可控且获公众支持。未来生命研究所发布公开信,强调当前AI发展路径与公众期望、安全性及伦理标准脱节。 超过700名科学家、政治人物和名人,包括哈里王子、理查德· […]

发布时间:2025年10月23日
保守活动人士因谷歌AI生成虚假信息起诉谷歌

保守活动人士因谷歌AI生成虚假信息起诉谷歌

快速阅读: 保守活动人士罗比·斯塔巴克因谷歌AI系统生成关于他的虚假信息,将其诉至特拉华州法院,要求至少1500万美元赔偿。谷歌称此为Bard误判所致,已尽力处理。 保守活动人士罗比·斯塔巴克周三对谷歌提起诉讼,指控这家科技巨头的人工智能系 […]

发布时间:2025年10月23日
拉夫劳伦推出AI购物体验,个性化服务引领未来时尚

拉夫劳伦推出AI购物体验,个性化服务引领未来时尚

快速阅读: 拉尔夫劳伦与微软合作推出AI对话购物工具“Ask Ralph”,提供个性化风格灵感,强调技术应提升品牌体验而非目的本身,展现AI个性化体验趋势。 9月,拉尔夫劳伦(与微软合作)发布了“Ask Ralph”,这是一款被描述为“由人 […]

发布时间:2025年10月23日
荣耀转型AI终端生态公司,方飞详解1 x 3 x N战略

荣耀转型AI终端生态公司,方飞详解1 x 3 x N战略

快速阅读: 荣耀董事长吴晖宣布转型为AI终端生态公司,提出1 x 3 x N战略,涵盖HONOR AI Connect平台及多项赋能措施,推动AI场景化落地,涉及教育、家居、健康等多领域。 感谢IT之家网友 風見暉一 的线索投递! IT之家 […]

发布时间:2025年10月23日
微软Photos推AI绘图与智能重塑新功能

微软Photos推AI绘图与智能重塑新功能

快速阅读: 微软在其Photos应用中推出AI驱动的Restyle Image和Image Creator功能,前者可智能重塑照片风格,后者能根据描述生成高质量图像,均支持隐私保护,旨在提升图像创作体验。 微软近日在其 Photos(照片) […]

发布时间:2025年10月23日
2025新一代人工智能创业大赛启动 全球招募火热进行中

2025新一代人工智能创业大赛启动 全球招募火热进行中

快速阅读: 网易传媒启动2025新一代人工智能创业大赛,聚焦AI新技术与应用,设三大赛道,面向A轮前团队,奖金总额100万元,提供多维指导与资源支持。 2025年10月22日,网易传媒正式启动 “2025新一代人工智能创业大赛”,面向全球创 […]

发布时间:2025年10月23日
谷歌量子芯片Willow实现可验证量子优势,性能超13000倍

谷歌量子芯片Willow实现可验证量子优势,性能超13000倍

快速阅读: 谷歌发布量子芯片Willow,成功运行“量子回声”算法,实现首个可验证的量子优势,比超级计算机快13,000倍,为新药研发和材料科学开辟新途径。 继量子计算研究团队荣获诺贝尔物理学奖之后,谷歌再次取得突破性进展。当地时间10月2 […]

发布时间:2025年10月23日