Microsoft 介绍自定义 AI 如何为您的企业提供更好的答案、降低成本和更快的创新
快速阅读: 据《ZDNet》称,微软AI平台副总裁埃里克·博伊德介绍了定制化AI的优势、实施建议及未来趋势。定制化AI通过微调提高质量、降低成本,适用于特定企业需求。微软通过Azure AI Foundry支持企业调整AI模型,强调数据质量和伦理考量。未来,AI代理将改变业务流程,企业需平衡自动化与人工监督。
盖蒂图片社像ChatGPT的GPT-4o这样的大型语言模型似乎掌握了已知宇宙中的所有信息,或者至少是工程师能从互联网上获取的内容。但如果你想使用一个包含公司专有信息的大规模语言模型(LLM),或者互联网上无法公开获取的专业信息,又或者以其他方式训练LLM使其具备特定专业知识呢?你会从头开始构建一个LLM吗?还是会使用一个只包含你自己的信息的小型开源、自托管模型?但如果你想使用一个包含公司专有信息的大规模语言模型(LLM),或者互联网上无法公开获取的专业信息,又或者以其他方式训练LLM使其具备特定专业知识呢?此外:研究人员警告称,少数秘密的AI公司可能会压制自由社会
事实上,你可以从一个类似GPT-4o的LLM开始,然后在此基础上进行扩展和增强。这被称为定制化AI。在这篇文章中,微软人工智能平台副总裁埃里克·博伊德与ZDNET分享了微软如何为客户提供定制化AI的可能性,定制模型包含哪些内容,整个过程涉及哪些方面,以及一些最佳实践方法。
埃里克·博伊德,微软人工智能平台副总裁。在这篇文章中,微软人工智能平台副总裁埃里克·博伊德与ZDNET分享了微软如何为客户提供定制化AI的可能性,定制模型包含哪些内容,整个过程涉及哪些方面,以及一些最佳实践方法。
微软让我们开始吧。
ZDNET:你能自我介绍一下,并概述你在微软及其AI平台中的职责吗?
埃里克·博伊德:我是微软AI平台团队的负责人。近年来AI领域发展迅速。我在2009年加入微软,在Bing组织工作,看到事情从那时起不断发展是非常令人兴奋的,因为微软的许多AI创新都始于Bing。我们建立了训练AI模型的基础设施,迭代和实验以确定哪个AI模型表现最好。所有这些基础设施现在都成为了Azure AI Foundry提供的组成部分。
我是微软AI平台团队的负责人。近年来AI领域发展迅速。通过Azure AI Foundry,我们帮助公司获取从数千个GPU到构建和训练他们自己的AI模型的一切资源,到管理和维护这些模型所需的工具,再到我们通过与OpenAI和其他提供商合作提供的大型和小型、开放和前沿的AI模型目录。
我是微软AI平台团队的负责人。近年来AI领域发展迅速。我们还提供工具来基于这些AI模型构建应用程序,包括我们的客户需要确保负责任地完成任务的各种功能。最终,我的团队专注于构建Azure AI Foundry,以便它包括客户或开发人员可能需要构建其AI解决方案的一切,并以安全和可信的方式轻松从想法到实施。
生成式AI与定制化AI
ZDNET:所以去年我们有了生成式AI。现在我们有了定制化AI。这是什么?为什么生成式AI不够用?
埃里克·博伊德:随着公司开始部署应用程序,生成式AI和基础模型已经取得了很大进展。但许多公司发现了一些基础模型回答得不好的角落案例。此外:最好的AI聊天机器人:ChatGPT、Copilot及其他值得注意的替代品
因此,定制化AI是一家公司利用自己的数据来定制其核心模型,从而获得更好的问题答案质量的能力——在某些情况下,他们可以使用成本更低的模型。
ZDNET:与现成的生成式AI解决方案相比,定制化AI的主要优势是什么?
埃里克·博伊德:质量和成本是两个主要优势。通过定制化AI,你可以通过找到基础模型的弱点并微调响应来提高应用答案的质量。微调还可以让你在某些情况下使用低成本模型来实现高成本模型的质量。
ZDNET:你能分享一些企业成功实施定制化AI解决方案的例子吗?
埃里克·博伊德:微软正在广泛地在其技术栈中应用这一技术,因为我们常常充当自己的“零号客户”,这使我们能够试验、学习并完善尖端的最佳实践。GitHub Copilot和Nuance DAX都经过了广泛的微调和定制,分别具有专门的编码输出和医疗保健知识。随着输出质量的提高,采用率也在增加。DAX Copilot现在已经超过了每月两百万次医生-患者互动,季度增长率为54%,被像麻省总医院布里格姆、密歇根医学院和范德比尔特大学医学中心等顶级医疗机构使用。
通过对特定数据进行微调,该解决方案在生成医疗记录方面做得更好,而不仅仅是总结医生与患者的对话。此外:想在人工智能时代获胜?你可以自己构建,也可以用它来发展你的业务
我们在微软产品套件中有许多AI应用的独特位置,在构建这些应用时,我们学到了很多关于人们下一步想做什么的知识。通过了解各种技术如何帮助我们的自有应用,我们对如何帮助客户的应用有了清晰的愿景。
ZDNET:对于刚刚开始其AI定制之旅的公司,你会给出什么建议?
埃里克·博伊德:我通常鼓励公司使用最强大的基础模型来证明他们的用例是否可行,然后考虑改进质量或降低成本的步骤。定制化将是实现这两者的技巧。为此,他们需要足够多地使用他们的应用,以了解其潜在弱点,即模型和数据未能按他们希望的方式回答问题的地方,并开始收集这些数据并建立模型所需执行任务的存储库。最终,这将成为我们用于定制模型的数据。
此外:自主企业将由AI代理驱动
在人工智能时代,数据是一个变革者,因为这些系统需要高质量、可访问且安全的数据才能正常运行。确保他们拥有这些数据是定制模型的关键部分。我们正在努力帮助客户将其数据现代化到云端,并统一其数据资产以构建下一代智能应用。
优化你的AI投资
ZDNET:开发和维护定制AI解决方案的成本影响是什么?公司如何优化他们的投资?
埃里克·博伊德:微调模型的成本通常是相对适中的,但是一项重要的投资,因为还有收集数据和训练模型的成本。客户还需要考虑模型的使用寿命。在微调时,我们建议从一个基础模型(如GPT-4o)开始定制。当下一代模型推出时,你可以选择“我要保留我的定制模型”或“我要重新定制下一代模型”。保持你的数据集将使后续的定制更容易,但你必须再次进行。虽然这是一个需要考虑的因素,但不必担心,因为影响取决于模型创新的速度。我们无法预测新模型能力的未来,但一年前微调了GPT-4o的客户今天可能对其解决方案感到满意,尽管像o1系列这样的推理模型有了进步。
ZDNET:组织在实施定制AI时面临的最常见的障碍是什么?他们如何克服这些障碍?
埃里克·博伊德:要定制模型,你需要针对应用中想要改进的地方的数据。对模型的一般数据很可能不会让你达到下一个水平。你需要应用表现不佳的数据,以便确定如何改进它。在过去,大多数公司都不习惯这样做,所以这是一种新的技能需要建立。虽然有一些工具和技术可以自动化这个过程,但许多公司缺乏知道如何做的人员,因此他们需要首先投资培养这些技能,然后着手应用它们。
ZDNET:组织在部署定制AI时应牢记哪些伦理考虑?
埃里克·博伊德:我认为定制AI并没有带来新的伦理考虑。它与广义上的生成式AI需要考虑的是一样的。它是“这是我开发的应用程序。我将如何确保它为我的品牌、我的应用以及该应用可能被使用的潜在影响负责?”我们在《负责任的AI标准》中涵盖的所有内容——我们认为人们应该如何行事——仍然应该被考虑。使用我们的平台开发和部署AI应用的一个好处是,微软提供了像Azure AI内容安全这样的工具,这些工具与定制模型一起工作,因此客户可以确信他们的系统是负责任的设计。
偏见、公平性和透明度
ZDNET:微软如何应对定制AI模型中关于偏见、公平性和透明度的担忧?
埃里克·博伊德:如今,我们提供了超过30种工具和100项功能,帮助我们的客户、开发者和研究人员负责任地使用AI。虽然Azure AI内容安全默认嵌入到Azure AI Foundry目录中的所有模型中,但仅靠在模型层面防止滥用几乎是不可能的。这就是为什么也有必要拥有系统和工具,在部署前后每一步帮助你测试和监控。微软旨在帮助客户通过每一层生成式AI风险缓解措施。
我们有工具帮助用户映射、测量、减轻、监控、响应和治理。我们从系统层面、用户层面和模型层面来看待这个问题。我们继续投资于研究识别、测量和减轻不同类型的公平相关危害,并在主动测试我们的AI系统方面进行创新,如我们在《负责任的AI标准》中所描述的那样。
ZDNET:微软Azure如何支持企业在其特定需求下调整AI模型?
埃里克·博伊德:我们一直在Azure AI Foundry中构建系统以简化这一过程。有微调服务本身,以及观察服务,这些服务使得更容易收集应用数据,这些数据反过来可用于微调。
ZDNET:开源AI在AI解决方案的定制和可扩展性中扮演什么角色?
埃里克·博伊德:我们在开源模型空间看到了很多创新,主要是在较低价格点(因此也是较低质量点)。但那些低成本模型往往是很好的起点,因为你可以测试和实验,看看是否能达到高价模型的质量。
此外:我测试了10个AI内容检测器——这5个每次都能正确识别AI文本
一般来说,这一领域的创新为Azure AI Foundry模型目录引入了多种多样的模型,客户可以根据这些模型进行评估,并为自己的应用场景挑选最合适的模型。
ZDNET:微调现有AI模型和从头开始构建AI解决方案的主要区别是什么?
埃里克·博伊德:从头开始构建自己的模型成本高昂,而对大多数应用而言,微调是相当合理的。成本是主要的区别。但如果你只是在构建一个基于传统基础模型(非定制模型)的标准AI解决方案,主要区别在于可能需要在质量和/或成本之间做出权衡。
代理是AI时代的核心应用。
ZDNET:您认为AI副驾驶将对企业AI战略产生什么影响?
埃里克·博伊德:大型语言模型已经改变了企业在企业中的运作方式,并且我们看到这种趋势只会加速。在我们的客户中,我们越来越多地看到他们正在构建能够为人们完成任务、完成工作并代为完成的应用程序,而不是仅仅回答问题。
此外:什么是AI代理?如何访问一支个性化的助手团队
这就是当前热议的向AI代理的转型。代理是AI时代的核心应用。如今,每个业务系统都将被重新想象为一个代理,它坐在副驾驶之上。这将极大改变诸多业务流程。
ZDNET:组织应该如何平衡AI自动化与人工监督以确保最佳结果?
埃里克·博伊德:这是一个关键问题。这些模型能做很多事情,但并非所有事情都做得好。确保我们清楚其能力范围,并明确有人对最终成果负责,必须是负责任的AI政策的关键部分,也是我们建议如何构建应用程序的关键部分。
此外:为什么扩展代理型AI是一场马拉松,而不是短跑
微软的AI工具旨在促进人类能力发展,将人类置于中心,并扎根于他们的背景。我们正在创建平台和工具,它们不是作为人类努力的替代品,而是帮助人类进行认知工作。
ZDNET:如果您要给探索定制AI的企业领导者提供一个关键建议,那会是什么?
埃里克·博伊德:随着AI应用程序成为每家企业组合中越来越重要的一部分,如果他们不考虑定制策略以确保最高质量、最佳性能的应用程序以最佳价格,他们将会错失良机。对于想要今天开始定制AI的公司,我说:看看你的生成式AI应用程序,确定你想改进的地方,收集一些数据,然后试一试。
ZDNET:您如何看待AI的未来在定制AI之外的发展,以及下一个重大转变是什么?
埃里克·博伊德:过去两年,我们一直在构建能够利用你的数据来帮助你回答问题并给你一个文本答案的应用程序。我认为接下来的两年,我们将构建能够为你完成部分工作的应用程序。
此外:您很快将管理一支AI代理团队,这是微软工作趋势报告所说的。在这种情况下,您可以分配任务并期望它们完成,有时通过代理自主完成,而不是通过同步聊天对话。但代理只是一个大型语言模型应用程序,你可以要求它执行工作和操作。
在这些应用程序中,即使计算发生在幕后,你仍然会发现自定义模型可以提高系统的质量的地方。
您是否已经尝试过企业级AI定制?您的组织呢?您在调整基础模型以适应自己的数据时看到了哪些挑战或机遇?您是否考虑过微调像GPT-4o这样的模型,或者与开源替代品合作?您觉得代理和副驾驶会在您的业务战略中起到怎样的作用?请在下面的评论中告诉我们。
您可以在社交媒体上关注我的日常项目更新。务必订阅我的每周更新通讯,并在Twitter/X上关注我@DavidGewirtz,在Facebook上关注我Facebook.com/DavidGewirtz,在Instagram上关注我Instagram.com/DavidGewirtz,在Bluesky上关注我@DavidGewirtz.com,以及在YouTube上关注我YouTube.com/DavidGewirtzTV。
想了解更多关于AI的故事?订阅我们的每周通讯Innovation。
人工智能商业和IT领导者在2025年进行AI转型所需的7个战略见解
我是如何用这个AI工具仅用一个提示就构建了一个应用程序——你也可以做到
2025年最好的编码AI(以及不该用什么)
我现在在Android设备上的5个最喜欢的AI应用——以及我是如何使用的
商业和IT领导者在2025年进行AI转型所需的7个战略见解
我是如何用这个AI工具仅用一个提示就构建了一个应用程序——你也可以做到
2025年最好的编码AI(以及不该用什么)
我现在在Android设备上的5个最喜欢的AI应用——以及我是如何使用的
(以上内容均由Ai生成)