智谱 GLM-4.5 AI模型曝光 或采用新混合专家架构
快速阅读: 据相关媒体报道,智谱将于7月25日发布GLM-4.5系列模型,采用混合专家(MoE)结构,支持多模态和分布式推理,具备高吞吐、可解释性等特性。
据代码库显示,7月25日,智谱即将发布GLM-4.5系列模型,预计采用全新的混合专家(MoE)结构,这是一款多模态可扩展的大模型。根据提交记录,GLM-4.5系列将包括GLM-4.5(355B-A32B)和GLM-4.5-Air(106B-A12B)两个版本。
网友@惊鱼在Linux DO论坛上分析指出,GLM-4.5基于混合专家(MoE)结构,具备高吞吐推理、结构化工具调用、可解释推理追踪、分布式负载均衡等特性。该模型支持多专家分组、负载均衡、分布式推理和多token预测(MTP)推理。此外,还增加了新的推理解析器和工具调用解析器,使模型能够输出严格的推理内容和工具调用内容,便于工具增强推理与函数调用。
文档显示,GLM-4.5支持文本(T)、图像(I)、可扩展(E+)、视觉扩展(V+),表明其定位为多模态增强大模型。
(以上内容均由AI生成)