AI21 首次推出 Maestro AI 规划和编排系统

快速阅读: 据《硅角度》最新报道，AI21实验室今日推出名为“马斯特罗”的软件系统，旨在提升大型语言模型（LLM）的输出质量。马斯特罗作为一款人工智能规划和协调系统，可自动应用用户要求，简化任务流程，并进行错误检查，有望使LLM的准确率提升高达50%。目前，该系统正处于早期访问阶段，预计于今年晚些时候全面开放。

AI21实验室有限公司今日推出了马斯特罗（Maestro），这是一款软件系统，承诺显著提升大型语言模型的输出质量。总部位于以色列的AI21是一家由英伟达、谷歌等公司提供3.36亿美元资金支持的人工智能初创企业。该公司提供一系列面向企业的LLM称为“Jamba”。这些模型能够处理最多包含256,000个标记的提示，并支持检索增强生成（RAG）技术，这是一种机器学习技术，允许AI分析其训练数据集之外的信息。在企业将LLM投入生产之前，他们会采取措施来降低产生错误输出的风险。这一过程通常涉及创建一个自动检查提示响应错误的软件工作流程。这样的工作流程可以大大降低产生错误输出的风险，但它们难以创建和维护。AI21新推出的马斯特罗平台旨在解决这一难题。该平台被描述为一个人工智能规划和协调系统，减少了减轻LLM输出错误所需的工作量。它还承诺简化几个相关任务。要使用马斯特罗，用户需要提供一个提示以及在处理提示时应满足的一系列要求。例如，用户可以设定生成LLM响应的成本不应超过某个阈值。AI21表示，马斯特罗会自动应用这些客户提供的要求，从而减少手动编码的需求。当接收到复杂的提示时，马斯特罗将其分解成子步骤。以这种方式简化任务已被证明能提高LLM响应的质量。完成流程后，马斯特罗运行模拟以识别将请求输入LLM并提供准确答案的最有效方式。AI21表示，该平台考虑了多种处理方法，并选择了最有可能提供正确LLM响应的方法。如有必要，马斯特罗还可以在推理时间扩展计算。这是一种提升推理优化LLM准确性的方法，通过增加任务所花费的时间和基础设施。生成提示回复后，马斯特罗会对其进行错误检查。系统还会创建一个日志，显示生成提示回复的每一步过程。用户可以检查此日志以验证LLM输出的正确性。在一系列内部测试中，AI21将马斯特罗应用于几种流行的LLM。结果表明，该系统使AI模型的准确率提升了高达50%。根据AI21的说法，这意味着像o3-mini这类推理优化的LLM在连接到马斯特罗时可以正确回答超过95%的提示。该公司设想客户将该系统应用于各种用例。他们表示，马斯特罗可以使LLM更好地分析复杂文档和回答用户问题。此外，该系统适用于自动化重复业务任务，如数据录入。“企业对AI的大规模采用是下一工业革命的关键，”AI21联合首席执行官奥里·戈申说。“AI21的马斯特罗是迈向这一未来的第一步——超越现有解决方案的不确定性，提供可大规模信赖的AI。”马斯特罗目前处于早期访问阶段。AI21计划在今年晚些时候使该平台全面开放。

(以上内容均由Ai生成)