软件公司如何开发 AI 代理并让员工为下一波生成式 AI 做好准备
快速阅读: 据《商业内幕》最新报道，在德勤的一项调查中，26%的领导者表示其组织正在探索自主代理AI。ServiceNow、Salesforce和SAP等公司已推出此类AI，以自动化客户服务、处理发票等任务。尽管多数代理AI仍需人工监督，科技公司正逐步实现其完全自主。员工培训和反馈对于成功实施至关重要。成功的关键在于为各部门开发定制能力、设计独特培训计划及监测价值回报。
在德勤的一项调查中，26%的领导者表示他们的组织正在认真探索自主代理。ServiceNow、SAP和Salesforce等公司已经推出了用于执行工作任务的代理型AI。这篇文章是“AI在行动”系列的一部分，探讨了企业如何实施人工智能创新。当云软件提供商ServiceNow的客户联系公司的客户服务部门时，80%的案例——以电话和聊天信息的形式——无需人工干预即可处理。相反，该公司依靠分析和生成式人工智能——以代理型AI的形式——来解决常见的客户问题。ServiceNow首席客户官兼企业AI顾问克里斯·贝迪表示，员工仍然处理五分之一的客户支持请求。他们得到了代理型AI的支持，后者可以自动化起草回复客户的电子邮件等任务。在执行任何代理型AI操作之前，员工仍需进行最终审批。ServiceNow表示，人类工人与代理型AI的结合使处理更复杂案件的时间缩短了52%。OpenAI联合创始人萨姆·奥特曼和其他领先技术专家表示，2025年将是“人工智能代理”加入劳动力大军的一年。除了ServiceNow，像Salesforce和SAP这样的软件开发商也推出了自己的代理型AI平台。这些平台可以执行处理客户发票、提供客户服务和起草邮件等工作场所任务。商业软件巨头Intuit（拥有TurboTax和QuickBooks）从12月开始推出代理型AI功能。目前人类大多仍在流程中，但供应商预计这项技术将变得完全自主。多代理系统，即两个或多个人工智能代理合作完成工作，将会普及。德勤咨询公司人工智能负责人吉姆·罗安说：“代理是理解如何应用人工智能的下一个层次。它可以为你执行操作。”
在最近一项对2773名商业领袖的德勤调查中，26%的受访者表示他们的组织正在大规模地探索自主代理。为什么人工智能代理成为生成式人工智能的新焦点在生成式人工智能热潮的前两年——从2022年底OpenAI推出ChatGPT后开始——大多数采用该技术的企业将其扩展到支持聊天机器人并完成起草会议纪要等常规任务。人工智能代理代表了生成式人工智能技术的演进，旨在自主完成任务，尽管大多数仍由工人密切监控。贝迪告诉《商业内幕》：“代理型AI实际上具有独特的推理、规划和协调技能。”“这些代理可以相互协作，并真正开始实现工作自主化的承诺。”在Salesforce于9月推出Agentforce以自动化客户服务、销售和营销任务后，对人工智能代理的关注迅速升温。该公司表示，将在今年年底前向客户推出10亿个代理。该公司还报告称，超过34万个客户服务问题已通过Agentforce自主回答。ServiceNow估计，其代理型AI已经在客户服务、人力资源和IT等多个业务领域部署，通过提高工作效率20%，每年为公司带来约3.25亿美元的价值。ServiceNow表示，人工智能代理支持的工作每年节省了40万小时的劳动时间。尽管如此，科技公司在其代理型AI开发方面仍处于早期阶段。许多公司正在确定哪些流程可以完全自动化。因此，实施代理型AI的公司领导正在培训员工与新“同事”合作，并提供反馈。人工智能代理通常作为员工协作工具开发。尽管如此，科技公司在其代理型AI开发方面仍处于早期阶段。许多公司正在确定哪些流程可以完全自动化。因此，实施代理型AI的公司领导正在培训员工与新“同事”合作，并提供反馈。
Salesforce产品管理高级副总裁约翰·库塞拉建议，企业在透明度方面应明确人工智能代理能处理哪些工作，哪些工作仍将由员工处理。他补充说，企业应该清楚说明人工智能代理到底是什么，因为并非所有的代理系统都是平等的。库塞拉说：“市面上有很多虚假的代理。只有当你提出请求，代理决定做什么并将数据放入其中时，它才算是一个代理。”虽然调查显示许多员工担心人工智能会取代他们，但技术专家表示，人工智能代理不会取代人，而是承担平凡的任务。SAP全球人工智能负责人沃尔特·孙说：“这些代理将帮助我做我的工作，但在任何时候都不会让我去做我不知情的事情。最重要的是，员工始终掌握控制权。”
公司如何根据员工反馈定制人工智能代理为了确保员工在人工智能代理的发展中有发言权，SAP鼓励其各个业务线的员工——包括差旅和费用管理提供商Concur以及提供人力资源、薪酬和人才管理软件的SuccessFactors——使用内部在线表格联系人工智能团队并提出有说服力的代理用例。在Intuit，由人工智能驱动的财务助手Intuit Assist可以通过检测逾期发票并自动生成个性化提醒信，使企业支付速度加快45%。在企业主批准语言并发送后，平均比仅用人工作流程提前五天支付。但在Intuit Assist采取行动之前，人类拥有最终决定权。“我们试图做的就是让人机交互达到最佳状态，”Intuit首席数据官阿肖克·斯里瓦斯塔瓦说。Intuit拥抱了一个强大的人工智能培训计划，专注于负责任的人工智能及其能与不能做的事情，并建立了一个名为GenStudio的‘沙盒’，让员工在一个安全的环境中与大型语言模型互动。公司还开发了针对高级管理人员、董事和工程师的教育项目。“这在整个公司都非常普遍，”斯里瓦斯塔瓦补充道。
Asana，一家制作工作管理软件的公司，在10月份推出了人工智能代理，专注于几个功能，包括市场营销、IT、人力资源和研发。Asana不追踪特定数量的代理AI执行的操作，而是监测可以自动化的任务类型，消除繁重的工作，让员工专注于更复杂的任务。公司也在密切关注人工智能系统与人类相比犯错的任务。在网络安全领域，人类错误往往发生在一天的晚些时候，当工人在长时间轮班后感到疲劳时。人工智能不会感到疲劳，但它容易产生幻觉——即当一个人工智能模型生成误导性或虚假信息的回答，但仍将其呈现为事实时。例如，Asana的人工智能代理可能会对某些问题作出回应，建议一些实际上不存在于特定工作流中的任务。Asana首席信息安全官肖恩·卡西迪说：“我们看到的错误类型不同，所以修复它们的方式也需要不同。”他说，公司进行自动化测试以检测幻觉并在发生时改进产品。
德勤的罗安表示，为了让实施人工智能代理的公司获得令人信服的投资回报，员工应该经常检查简单的自动化任务，然后再进行任何代理AI操作。如果企业希望在其代理AI投资上看到巨大回报，他们需要将人工智能置于工作模式的核心，并考虑人类将如何参与工作，罗安说。否则，“节省的成本真的不会出现，”他补充道。ServiceNow的贝迪表示，人工智能代理的成功取决于公司能否做到三点：为每个部门及其具体需求开发新的代理能力；为金融、营销和销售等业务的每一部分设计独特的培训计划；并密切监测代理工作流程的价值和回报。贝迪说：“那些能够结合这三个要素的公司将拥有竞争优势。”
(以上内容均由Ai生成)
