认识 Mu，负责 Microsoft Settings AI 代理的小语言模型

快速阅读: 《技术点》消息，微软推出小型语言模型Mu，专为Windows 11优化，提升设置操作的AI体验。Mu在NPU上运行，高效且紧凑，支持自然语言交互。

简而言之：小型语言模型通常比大语言模型（LLMs）更紧凑、更高效，因为它们是为在本地硬件或边缘设备上运行而设计的。微软现在又将另一个小型语言模型（SLM）带入了Windows 11，因为用户显然需要一些AI驱动的提示，以帮助他们找到特定的操作系统设置并自定义他们的电脑体验。

微软最近宣布了Mu（穆），一个专为与Windows 11用户界面体验集成而设计的新小型语言模型。Mu将与此前在Copilot+ PC上推出的Phi Silica（Phi硅）语言模型一起，为微软正在开发的Windows设置中的AI代理功能提供支持。

与Phi Silica一样，Mu将在系统的神经处理单元（NPU）上完全运行，每秒可处理超过100个令牌，这应该能为设置界面提供流畅的用户体验。

微软将Mu描述为一个高效的3.3亿参数模型，专门针对小规模部署进行了优化。它基于一种Transformer 编码器-解码器架构，其中编码器将用户输入转换为固定长度的潜在表征，解码器则从该表征中生成输出标记。

微软将Mu设计为Phi Silica的高度优化的配套模型，使用了多种技术来减少参数数量并提高效率。该小型语言模型是在Azure机器学习平台上使用未指定数量的A100 GPU进行训练的，并经历了多个阶段，应用了微软在Phi模型开发过程中所研发的技术。

微软将Mu描述为一个高效的3.3亿参数模型，专门针对小规模部署进行了优化。它基于一种Transformer 编码器-解码器架构，其中编码器将用户输入转换为固定长度的潜在表征，解码器则从该表征中生成输出标记。

在对模型进行微调后，开发者发现，尽管Mu的规模仅为Phi-3.5-mini的十分之一，但其性能几乎可以与Phi-3.5-mini相媲美。此外，微软还与硅芯片合作伙伴英特尔（Intel）、AMD和高通（Qualcomm）合作，确保Mu能够在本地NPU驱动的设备上充分优化运行。

所有这些优化工作的意义何在？据微软表示，Mu将为即将推出的增强AI功能的“代理”体验提供动力。这家人工智能和云巨头旨在提供一个新的“聊天”功能，让Windows用户能够用自然语言询问与设置相关的问题，并获得有效的答案，即使他们自己并不清楚到底要找什么。

设置应用中的代理AI旨在提升Windows的易用性。微软承认，训练一个能够处理（并修改）数百个系统设置的小型语言模型是一个挑战，公司表示欢迎用户对该新功能提出反馈意见。

**相关新闻：**
Xbox应用现在允许Windows内部人士从Steam、Epic等平台启动游戏
Salesforce提高Slack价格，为所有付费用户提供AI工具

(以上内容均由Ai生成)