Google Cloud 工程副总裁：超越单一式 AI 实现异构和谐

快速阅读: 据《计算机周刊》称，谷歌云副总裁认为，企业AI应用需更细致方法。小型语言模型虽看似简单，但针对特定需求优化，与大型模型形成互补。混合架构及智能路由机制可最大化效率，未来AI发展将趋向异构系统以提升性能与经济性。

谷歌云副总裁彼得·贝利斯撰文探讨企业应用人工智能的新趋势。他认为，尽管大型语言模型（LLMs）备受关注，但在企业内部实际应用人工智能通常需要更细致的方法。小型语言模型（SLMs）并非大型模型的简单缩小版，而是针对特定企业需求优化的独特模型。

**推动这一领域的核心动力是什么？**

贝利斯指出，SLMs通常具备独特的架构，经过专业数据集的训练，并以延迟、内存占用和能耗等目标进行优化。这种针对性设计使其在效率、速度和成本效益方面表现优异，无论是独立使用还是作为更大系统的一部分，都能胜任各种任务。选择适当模型大小本质上是一种工程权衡。复杂任务可能需要更多参数支持，而一些“简单”任务则可以通过小而高效的SLMs完成，从而显著减少资源消耗。

**混合架构的魅力**

混合系统结合LLMs和SLMs能够提供更优解。LLMs擅长提供广泛知识并处理复杂开放性问题，而SLMs则在特定任务中表现卓越。例如，可以构建一个系统，让SLMs处理大部分常规客户服务咨询，只有遇到复杂或新颖问题时才升级至更强力的LLMs。这种“级联”方法充分利用了两者的优势。

**智能路由机制的重要性**

实施多模型系统需要智能路由机制。可以将模型路由器视为AI领域的交通指挥官，它会分析输入查询并动态分配到最适合的模型。这不仅能优化资源配置，还能降低延迟并提高响应准确性。路由逻辑可以从简单的规则驱动方案到复杂的机器学习模型。

目前可用的技术包括：
– **查询分类**：通过轻量级模型判断任务类型或所需能力，从而引导查询方向。
– **任务分解**：由协调模型将复杂请求拆分为子任务，并分配给适合的专业模型。
– **基于显式能力的路由**：根据显式模型能力来决定路由路径。

**数据工程中的SLMs**

SLMs因其效率提供了显著优势，尤其在AI数据工程领域。尽管LLMs不断推进通用AI能力边界，但企业级AI系统的开发正越来越多地依赖于SLMs的战略性运用。

**未来的展望**

可以肯定地说，SLMs在训练速度、推理效率以及适应性方面具有独特优点，使其成为与大型模型协同工作的宝贵组成部分。这种趋势标志着从单一模型向异构系统的转变，即根据具体操作限制和任务需求定制模型。这种变化不仅提升了性能，也为企业带来了更高的灵活性和经济效益。

(以上内容均由Ai生成)