AMD发布锐龙AI Max+ 395,1280亿参数大模型本地运行成现实

发布时间:2025年7月30日    来源:szf
AMD发布锐龙AI Max+ 395,1280亿参数大模型本地运行成现实

快速阅读: 据《AIbase – AI新闻资讯》称,今日,AMD宣布推出基于Zen5架构的锐龙AI Max+395处理器,该处理器首次实现本地运行1280亿参数的大模型,支持68GB、1230亿参数的Mistral Large模型及多个小型模型,最大支持256000Tokens的上下文长度,显著提升AI处理能力。配备128GB内存的迷你AI工作站售价约1.3万元,降低高端AI应用门槛。

今日,AMD宣布推出基于Zen5架构的锐龙AI Max+395处理器,标志着该公司再次引领科技潮流。这款处理器不仅在行业内表现出色,而且是首款能够本地运行700亿参数AI大模型的平台。现在,AMD进一步宣布,锐龙AI Max+395已经能够支持本地运行高达1280亿参数的大模型,大大扩展了其在AI领域的应用潜力。

为了达到这一性能水平,锐龙AI Max+395需要配备128GB的统一内存,其中96GB必须分配为显存。此外,该处理器还需在Vulkan llama.cpp环境下运行,为开发者提供更大的灵活性。通过此次升级,锐龙AI Max+395成为首个能够运行1090亿参数Meta Llama4S大模型的平台,该模型体积达66GB,支持Vision和MCP等多种高级功能。

此次升级的关键在于采用了混合专家(MoE)模式,该模式每次仅激活模型的部分组件,从而在保持高性能的同时大幅减少资源消耗。实测显示,锐龙AI Max+395可实现每秒15Tokens的处理速度,表现出色。同时,它还支持68GB、1230亿参数的Mistral Large模型,以及多个小型模型,如18GB、300亿参数的Qwen3A3B和17GB、270亿参数的Google Gemma。

在上下文处理能力方面,锐龙AI Max+395实现了质的飞跃,最大支持256000Tokens的上下文长度,能够处理和分析更加复杂的数据。尽管一般非大规模模型在32000Tokens的上下文中已足够使用,但此次升级为处理超大规模上下文提供了更多可能,以往需高端设备才能实现的功能,现在在AMD的产品中也能轻松实现。

价格方面,配备锐龙AI Max+395和128GB内存的迷你AI工作站,售价已降至约1.3万元,性价比显著提高,大幅降低了高端AI应用的门槛。

(以上内容均由Ai生成)

你可能还想读

芯纬内部人士抛售超10亿美元股票引发警报

芯纬内部人士抛售超10亿美元股票引发警报

快速阅读: 纳斯达克上市公司CoreWeave因内部人士大量抛售股票受关注,10月交易超10亿美元,股价承压下跌,引发投资者对该公司信心的质疑。 纳斯达克上市的CoreWeave (CRVW)因内部人士大量抛售股票而受到广泛关注。10月,一 […]

发布时间:2025年10月24日
升腾首席分析与AI官:用数学背景解决医疗问题

升腾首席分析与AI官:用数学背景解决医疗问题

快速阅读: 安森斯首席分析与人工智能官卡提克·拉贾强调,人工智能是一类问题而非单一事物,需识别并应用正确方法解决。他领导团队利用AI优化医疗流程,提高决策效率,同时注重人才培养和道德领导。 卡提克·拉贾,这家覆盖16个州的大型医疗系统首席分 […]

发布时间:2025年10月24日
格拉斯利宣布法官使用AI致法庭命令出错,实施新政

格拉斯利宣布法官使用AI致法庭命令出错,实施新政

快速阅读: 美国参议院司法委员会主席格拉斯利宣布收到法官们关于AI导致法院命令出错的回应,法官温盖特和尼尔斯承认错误并实施新政策,确保命令准确性,同时法院行政办公室成立AI咨询工作组,发布临时指导方针。 美国参议院司法委员会主席查克·格拉斯 […]

发布时间:2025年10月24日
AI视频生成系统不断进步,ChatGPT创始人更新发展计划

AI视频生成系统不断进步,ChatGPT创始人更新发展计划

快速阅读: 本周,顶尖开发者公布人工智能视频生成系统的最新进展,包括即将推出的安卓应用。该技术融合多种特性,引发艺术与伦理讨论,但仍不断进步,输出效果惊人。 基于人工智能的视频生成系统集多种特性于一身。的确,它们引发了关于艺术、创作者角色及 […]

发布时间:2025年10月24日
美法官承认职员用AI起草错误命令

美法官承认职员用AI起草错误命令

快速阅读: 美国地方法官温盖特承认其法律助理使用AI程序起草了有误的法院命令,引发争议。温盖特表示将加强审查流程,避免类似错误。参议员格拉斯利呼吁制定更明确的AI使用政策。 密西西比州的一名联邦法官承认,其工作人员使用人工智能起草了一份有误 […]

发布时间:2025年10月24日
ChatGPT遭遇重大故障,用户报告服务中断

ChatGPT遭遇重大故障,用户报告服务中断

快速阅读: ChatGPT遭遇重大技术故障,OpenAI确认“高频率错误”,用户反馈广泛。故障始于周四上午11时(美国东部时间),Downdetector数据显示问题激增。 受连续强降雨影响,南部多地出现洪水,相关部门紧急启动防汛响应。Ch […]

发布时间:2025年10月24日
OpenAI推新浏览器Atlas,挑战Google Chrome

OpenAI推新浏览器Atlas,挑战Google Chrome

快速阅读: OpenAI推出ChatGPT Atlas浏览器,挑战谷歌Chrome,集成AI功能助用户高效完成任务,计划近期增加标签组和广告拦截器等新特性。 萨姆·阿尔特曼的OpenAI继续将其生成式AI模型整合到全球大多数人的日常工具—— […]

发布时间:2025年10月24日
ChatGPT短暂故障后恢复,医疗咨询模式引关注

ChatGPT短暂故障后恢复,医疗咨询模式引关注

快速阅读: 医学研究人员报告AI医疗失误案例,患者因咨询ChatGPT致溴化物中毒精神错乱。专家长期担忧此问题,OpenAI推出专门医疗建议模式应对。 几周前,一位医学研究人员报告了一起由AI引发的医疗失误案例,详细描述了一名患者因咨询Ch […]

发布时间:2025年10月24日