SLM 系列 – Syndicode：如何使用正确的（模型）工具来完成工作

快速阅读: 据《计算机周刊》最新报道，本文作者沃洛季米尔·穆尔扎克讨论了小模型(SLM)和大模型(LLM)的使用场景。若需广泛常识和深度理解，LLM更为合适；若追求轻量级、高效工具，则应选择SLM。两者协同工作时效果最佳，SLM在速度和成本上更具优势，尤其适用于客户支持、医疗分析和金融分析等领域。

这是一篇由沃洛季米尔·穆尔扎克撰写的客座文章，在他担任软件开发公司赛思迪科德的解决方案架构师和技术负责人期间。赛思迪科德是一家提供网页开发、移动应用开发、SaaS开发及咨询服务的软件开发公司，专注于从概念到部署及持续维护的整个开发过程，为客户打造定制化的数字产品。公司在业务分析、用户体验/用户界面设计和质量保证测试方面具备专长。全文如下：

关于是否应该将SLM（小模型）和LLM（大模型）一起使用？简短的回答是，这取决于具体情况。如果你处理的任务需要深入的上下文理解和广泛的常识知识，那么LLM可能是最佳选择。但如果你需要的是轻量级、高效且具体的工具，那么SLM就是你的首选。

真正的魔力在于它们协同工作时。LLM可以处理宏观层面的工作，而SLM则负责精确的任务。关键在于不要因为可以就将所有任务都交给一个庞大的模型——效率至关重要。智能路由正是在这里发挥作用。人工智能需要聪明地将查询发送到正确的位置。如果任务需要深入的专业知识，那么用一个轻量级的专门模型来完成任务会比使用通用的大模型更快、更准确。这就像让心脏科医生处理骨折一样——这不是正确的工具。

此外，让我们诚实地说，性能很重要。没有人愿意等待臃肿的模型慢慢处理数据，当一个精简的模型可以在几毫秒内给出答案时。当速度是关键因素时，SLM具有明显优势。它们训练更快，更新更容易，运行成本也更低。这对人工智能工程来说意义重大，因为时间不仅仅是金钱；它是保持领先与追赶之间的区别。

在部署时，大多数企业倾向于靠近SLM，通常是本地或私有云上。原因是控制简单。如果你处理的是敏感数据，你不想让它漂浮在公共基础设施上。还有环境方面的考量。训练一个巨大的LLM并不节能。SLM的足迹较小，意味着对基础设施的压力更小，成本更低。但它们并非完美无缺。小型模型可能难以应对普遍知识，偏见仍然是一个问题。如果你在一个不足的数据集上训练模型，无论它大小如何，结果都会是一团糟。

沃洛季米尔·穆尔扎克，赛思迪科德的解决方案架构师和技术负责人。至于领域特定的LLM是否优于SLM，这是一个两难的选择。经过微调的LLM非常强大，但如果任务足够狭窄，SLM将以更高的效率完成工作。再次强调，选择合适的工具很重要。

谈到应用领域，SLM在速度和准确性为焦点的应用中表现出色。例如客户支持聊天机器人、医疗数据分析和金融分析。任何需要专业知识但不需要大模型全部功能的地方。数据处理至关重要。那么，金融和零售行业是否是关键领域？绝对。这些行业依赖快速、准确的数据处理生存和发展。欺诈检测、情感分析和实时客户洞察都是SLM表现良好的地方，因为它们需要快速、精确且成本效益高。最后，医疗保健也是重要领域之一。分析医生笔记、医学影像和诊断都是可以从专业高效的模型中受益的任务。

(以上内容均由Ai生成)