数字工作者即将到来。管理它们是一项新的挑战

快速阅读: 据《美国银行家》最新报道，代理式AI在银行业加速应用，摩根大通等机构已采用。Gartner预测40%项目可能失败，但专家认为其带来运营优势。管理AI需实时反馈与持续监控。

Adobe Stock/Usman Zafar Paracha 代理式AI的发展势头正在增强，摩根大通、Capital One和BNY等银行开始采用它。对于那些习惯于领导初级员工团队的经理来说，这些代理通常会接管他们的任务，这将带来新的管理挑战。代理式AI使用像OpenAI的ChatGPT或Anthropic的Claude这样的大型语言模型，并在极少的人工干预下让它完成任务。代理式指的是作为自主代理运作，能够独立完成任务。并非所有人都支持这个想法。Gartner的分析师最近预测，由于成本上升、业务价值不明确或风险控制不足，到2027年，40%的代理式AI项目将会被终止。“目前大多数代理式AI项目都是处于早期阶段的实验或概念验证，主要由炒作驱动，而且常常被误用，”Gartner的高级总监分析师Anushree Verma表示，“这会让组织忽视部署AI代理的大规模实际成本和复杂性，阻碍项目进入生产阶段。他们需要摆脱炒作，谨慎地做出战略决策，以确定如何以及在何处应用这项新兴技术。”并非所有人都支持这个想法。Gartner的分析师最近预测，由于成本上升、业务价值不明确或风险控制不足，到2027年，40%的代理式AI项目将会被终止。但许多银行业专家认为代理式AI正在受到关注。“我们仍处于早期阶段，”ThoughtLinks的首席执行官兼创始人Sumeet Chabria表示，“目前几乎所有银行都在谈论代理式AI，在公司内部的技术架构团队中进行讨论，其中一些银行已经将第一批AI代理投入实施。”但许多银行业专家认为代理式AI正在受到关注。AI代理每天可以查看数千条记录，全天候工作而无需休息或睡觉，并在早上发现错误，“这是件好事，”Chabria表示。“AI代理提供了显著的运营优势，”AI战略顾问Andy Winskill表示，“它们不知疲倦，稳定且适应性强，可扩展。经理可以轻松扩大数字员工队伍，从而大幅提高生产力。”银行中代理式AI的应用案例Chabria合作的一家银行正在考虑使用AI代理进行“双人检查（Four Eyes Check）”，即两个人审查并批准交易或操作，以及“六人检查（Six Eyes Check）”，即三个人批准。“这些过程包括高价值支付、输入标准结算指令或进行制裁筛查，你需要两个人查看该文件并批准，”Chabria表示。这些代理会对已完成任务提供反馈。人工智能法国银行BNP Paribas的生成式AI初创企业孵化器是其AI旅程中的一步法国银行BNP Paribas正在启动一个英国金融科技孵化器，将容纳为银行开发应用程序的生成式AI初创企业。法国银行BNP Paribas的生成式AI初创企业孵化器是其AI旅程中的一步作者：Penny Crosman7月8日Chabria还看到代理式AI在银行的交易大厅中得到应用。“在交易大厅，交易员面临着相当大的压力，确保正确捕获数据，不是交易数据本身，而是客户、交易对手等的数据，”Chabria表示。“如果你没有正确捕获这些信息，就会在后台监管报告中造成巨大问题。因此正在构建代理式AI系统来验证交易员捕获的信息是否正确，并将其反馈给交易员。这基本上是在模仿一名从事重复性、低价值活动的中后台人员。”在Chabria合作的银行中，高管们正在讨论诸如以下问题：这些代理应该作为人类的助手，还是作为人类的同事？它们会与人类协作并自主行事，还是代理组会支持从事投资银行或了解你的客户工作的团队？“很多银行都在思考这个问题的框架，因为一方面，某些银行只谈论不取代员工，作为员工的助手，”Chabria表示，“但另一方面，一些银行则谈论数字工人的概念，这些工人是自主的。它们具有某种程度的智能，能够感知世界，能够执行任务，它们具备灵活性，能够改变自己的行为或内部结构以改进基础活动，并且可以进行交接。”在Chabria合作的银行中，AI代理是自主的，但受到约束。“到目前为止，我还没有看到任何在银行中被释放并被告诉随意做任何事情的代理式AI系统，”Chabria表示，“它们有工作范围，有一套明确的角色和职责，有输入，也有输出，并且被置于护栏之下。它们都受到人类经理非常直接的监督。目前没有任何代理是在没有管理和监督的情况下运行的。经理的职责是经常确认代理按照预期执行任务。”在Chabria合作的银行中，AI代理是自主的，但受到约束。工作范围、角色和职责以及与人类的交接或握手都需要通过强大的文档合规政策和程序来完成，以确保代理具备嵌入的控制措施，这也是风险管理所需的内容，Chabria表示。Casetllum.ai拥有一系列AI代理，负责制裁、反洗钱、了解你的客户和负面媒体报道筛查的警报处理。这些代理不会提交可疑活动报告，但它们会进行调查和研究工作，以准备提交报告，包括撰写初稿——换句话说，这就是初级分析师的工作。根据联合创始人兼首席执行官Peter Piatetsky的说法，这意味着理论上银行可以在资产管理规模和交易规模增长的同时，不需要雇佣大量合规人员。在这种情况下，“所有的人类都会被提升，”Piatetsky表示。“我们的做法是将AI代理视为经理对待人类员工的方式类似，”他说，“AI代理专门接受培训以协助完成任务。我们的AI代理会审查自己的工作。因此，培训的一部分是确保它遵循你所接受的培训程序，就像人类一样。”

管理数字工人的挑战温斯克尔表示，AI代理缺乏情感智能和直觉，这意味着在没有人类支持的情况下，它们无法处理复杂的人际互动或伦理困境。他表示，人类管理者必须监督AI的决策，以预见并缓解AI代理无法察觉的风险。“管理AI代理与管理人类根本不同，”温斯克尔说。“人类需要情感智能、激励和职业支持。相比之下，AI代理则由技术设定和明确的目标驱动。管理AI意味着从任务监督转向目标驱动的合作；你设定结果，让AI自主找出最佳路径。”

人工智能五家AI初创公司通过BNY Ascent计划毕业这些专注于AI和网络安全的初创公司完成了经过审核的概念验证计划，为下一阶段的成长做好准备。作者：梅琳达·赫斯彭8小时前

查布里亚表示，管理AI代理的一个挑战是处理访问权限。银行已经必须确保所有员工都能获得他们需要的数据和系统，并且仅限于所需范围。现在，AI代理可以访问大量数据和系统，这些都需要进行映射和管理。“否则，你就必须撤销访问权限，”查布里亚说。根据查布里亚的说法，另一个障碍是，在将流程交给AI代理之前，通常需要重新设计流程。他最近分析了5000个银行业务流程，以确定哪些部分可以转移到代理AI。“我发现大多数情况下，流程必须完全重新设计，”查布里亚说。“你不能只是把一个传统方式运行的流程拆分一半，然后把它的一半交给代理。你必须重新设计和重新定义。”

在大多数情况下，将AI代理和人工审核员结合在一起（人工介入）的流程效果最好。“我认为，如果做得好，这将提升所有人，”查布里亚说。“人类今天不会做重复性、例行的工作，而是会做更有洞察力、更具创造力的工作。”

管理AI代理的最佳实践查布里亚表示，与经理对人类团队成员进行年度绩效评估不同，管理AI代理的经理需要更快地给予反馈，实时反馈或当日反馈，查布里亚 said.另一个最佳实践是，AI代理不仅应由团队经理管理，还应由创建和部署它们的人进行管理，查布里亚 said.“如果代理的表现略有偏差，那么了解代理机制的人就可以修复它，”他说。最好的AI代理在创建时就包含反馈机制，并且在输出方面有明确的绩效指标。银行还需要选择能够与AI代理合作并培训他们如何工作的合适人员。“你不能只是说，‘你以前做过这项工作，现在这是一个AI代理，去和它合作吧，’”查布里亚 said.温斯克尔 said，AI代理的绩效评估必须解决模型漂移问题，即AI准确性逐渐下降的现象。“这意味着AI管理人员需要定期进行对齐审查，”他说。“管理人员必须持续抽样AI的输出，检测任何偏离预期表现的情况，并及时重新校准或重新训练模型。与季度人类绩效评估不同，AI评估是连续的，需要近乎每日的监控和调整。”

“管理AI代理并不更容易，这是一种不同的挑战，”温斯克尔 said。“你正在用人类管理的复杂性换取技术监督、持续监控和性能验证。”

当管理人员的员工被AI代理取代时会发生什么？如果一名管理人员过去负责300人，而通过部署AI代理，现在该人员负责30人和200个AI代理，那么这个人影响力的水平和职业轨迹会发生什么变化？

当管理人员的员工被AI代理取代时会发生什么？“从长远来看，我认为我们应该奖励那些采用负责任技术的管理人员，”查布里亚 said。“这是不可避免的。这正在发生。只是时间问题。我们可以争论这是1年、5年还是7年，但这种情况正在发生。我们将开始在iPhone上使用它，然后人们会说，‘为什么我们在工作中不能这样做？’”但他 said，公司需要以一种敏感的方式来进行这一过程。“你是否奖励AI代理，是否给它奖金？如果是的话，你真的要把它给机器人的管理者吗？还是给开发代理AI系统的开发者？你不能在没有考虑清楚的情况下大规模引入这些事物，整个人力资源管理框架与代理AI资本之间必须建立起来。”

(以上内容均由Ai生成)