AMD发布锐龙AI Max+ 395,1280亿参数大模型本地运行成现实

发布时间:2025年7月30日    来源:szf
AMD发布锐龙AI Max+ 395,1280亿参数大模型本地运行成现实

快速阅读: 据《AIbase – AI新闻资讯》称,今日,AMD宣布推出基于Zen5架构的锐龙AI Max+395处理器,该处理器首次实现本地运行1280亿参数的大模型,支持68GB、1230亿参数的Mistral Large模型及多个小型模型,最大支持256000Tokens的上下文长度,显著提升AI处理能力。配备128GB内存的迷你AI工作站售价约1.3万元,降低高端AI应用门槛。

今日,AMD宣布推出基于Zen5架构的锐龙AI Max+395处理器,标志着该公司再次引领科技潮流。这款处理器不仅在行业内表现出色,而且是首款能够本地运行700亿参数AI大模型的平台。现在,AMD进一步宣布,锐龙AI Max+395已经能够支持本地运行高达1280亿参数的大模型,大大扩展了其在AI领域的应用潜力。

为了达到这一性能水平,锐龙AI Max+395需要配备128GB的统一内存,其中96GB必须分配为显存。此外,该处理器还需在Vulkan llama.cpp环境下运行,为开发者提供更大的灵活性。通过此次升级,锐龙AI Max+395成为首个能够运行1090亿参数Meta Llama4S大模型的平台,该模型体积达66GB,支持Vision和MCP等多种高级功能。

此次升级的关键在于采用了混合专家(MoE)模式,该模式每次仅激活模型的部分组件,从而在保持高性能的同时大幅减少资源消耗。实测显示,锐龙AI Max+395可实现每秒15Tokens的处理速度,表现出色。同时,它还支持68GB、1230亿参数的Mistral Large模型,以及多个小型模型,如18GB、300亿参数的Qwen3A3B和17GB、270亿参数的Google Gemma。

在上下文处理能力方面,锐龙AI Max+395实现了质的飞跃,最大支持256000Tokens的上下文长度,能够处理和分析更加复杂的数据。尽管一般非大规模模型在32000Tokens的上下文中已足够使用,但此次升级为处理超大规模上下文提供了更多可能,以往需高端设备才能实现的功能,现在在AMD的产品中也能轻松实现。

价格方面,配备锐龙AI Max+395和128GB内存的迷你AI工作站,售价已降至约1.3万元,性价比显著提高,大幅降低了高端AI应用的门槛。

(以上内容均由Ai生成)

你可能还想读

美国科技未来需投资人才与科研

美国科技未来需投资人才与科研

快速阅读: 据最新消息,美国政府拟持股英特尔10%,以强化半导体战略,但专家强调需同步加大基础科研投入并解决STEM人才短缺,方能维系科技领先地位。 近日,美国政府宣布将持有英特尔公司10%的股权,引发广泛关注。此举被视为对本国半导体制造业 […]

发布时间:2025年12月8日
康宁押注AI数据中心光纤需求激增

康宁押注AI数据中心光纤需求激增

快速阅读: 据康宁公司介绍,AI数据中心加速转向光纤互联,单节点集成72颗GPU,布线长达两英里;因算力激增与带宽需求,光通信将推动AI硬件生态结构性变革,市场或扩至三倍。 近日,人工智能硬件基础设施加速升级,数据中心内部连接技术正经历重要 […]

发布时间:2025年12月8日
智能体AI重塑政府与民众服务关系

智能体AI重塑政府与民众服务关系

快速阅读: 据最新消息,AI代理技术在能源、环保、医疗和教育等领域试点成效显著,提升地震解释准确率70%,优化垃圾清运与课程设置,推动公共服务向智能优化转型。 近日,人工智能代理技术在公共服务领域展现出显著应用潜力。今年1月,阿布扎比国家石 […]

发布时间:2025年12月8日
英警方呼吁中央统筹AI应用

英警方呼吁中央统筹AI应用

快速阅读: 据techUK发布消息称,英格兰和威尔士警方需建立中央统筹机制并加大投入,以释放AI在执法中的潜力,解决应用不均、数据质量及算法偏见等问题,推动全国协调与透明治理。 英国信息技术行业组织techUK近日发布报告指出,英格兰和威尔 […]

发布时间:2025年12月8日
Viam携手优傲机器人推AI自动化方案

Viam携手优傲机器人推AI自动化方案

快速阅读: 据最新消息,美国Viam公司与优傲机器人达成合作,基于UR系列协作机器人开发AI驱动的表面处理系统,已应用于船舶打磨,并拓展至家具、建筑等行业,推动制造智能化转型。 近日,美国纽约企业Viam宣布与泰瑞达集团旗下优傲机器人公司( […]

发布时间:2025年12月8日
AI智能体破解医疗沟通困局

AI智能体破解医疗沟通困局

快速阅读: 据最新消息,美国医疗系统因信息孤岛问题导致患者沟通受阻,AI智能体技术正通过代理式通信提升诊疗协同效率,企业Infinitus已推动该方案在随访与用药管理等场景落地。 近日,美国医疗系统在信息互通方面面临的严峻挑战引发广泛关注。 […]

发布时间:2025年12月8日
AI虚拟演员Tilly Norwood引行业争议

AI虚拟演员Tilly Norwood引行业争议

快速阅读: 据美联社报道,AI虚拟演员蒂莉·诺伍德由Particle6公司打造,旨在探索影视AI应用,团队正优化其自然表现并计划明年推出互动功能,但遭部分经纪公司抵制。 近日,人工智能虚拟演员“蒂莉·诺伍德”(Tilly Norwood)再 […]

发布时间:2025年12月8日
苹果硬件主管或离职,芯片业务面临巨变

苹果硬件主管或离职,芯片业务面临巨变

快速阅读: 据彭博社报道,苹果硬件技术主管斯鲁吉考虑离职,其主导自研M系列与A19 Pro芯片,深度支撑全系产品,潜在出走或重创苹果芯片优势并撼动行业格局。 据彭博社日前报道,苹果公司高级副总裁、硬件技术主管约翰尼·斯鲁吉正考虑离职。斯鲁吉 […]

发布时间:2025年12月8日