代理 AI 即将到来 – CIO 们准备好了吗？
快速阅读: 据《信息周刊》称，本文描述了作者因家用微波炉问题而遭遇的自动客服困境，并指出数百万消费者对无效的自动应答系统感到沮丧。自主代理人工智能市场预计将以43.8%的复合年增长率增长，但首席信息官需尽早介入，确保其既能服务系统又能服务人类。自主代理人工智能通过机器学习和自然语言处理实现目标，但需注意安全和治理问题。IT部门应积极参与自主代理人工智能项目的系统集成和培训，以确保其有效和安全地运行。
在我撰写这篇文章时，我暂停下来，给一家我们拥有的微波炉的家电客服热线打了个电话，这或许并非巧合。不久之后，我就被困在一个无法脱身且无法联系到人工客服的自动应答机器人系统中。最后我放弃了，转而联系了一家当地的家电公司，一位人类销售人员给了我所需的答案。这种经历很普遍。数百万消费者对那些无法将他们引向能解决问题的人（或功能）的自动电话系统和聊天服务感到沮丧。公司对此心知肚明，但它们仍在以惊人的速度采用自主代理人工智能（自主代理人工智能），这一点从预计到2034年自主代理人工智能市场的复合年增长率（CAGR）将达到43.8%可见一斑。这让首席信息官（首席信息官）们更有必要尽早介入自主代理人工智能，确保它既能服务于系统也能服务于人。
自主代理人工智能是什么，又是如何工作的？2024年，《哈佛商业评论》采访了全球体验工程公司Ciklum的AI专家恩维尔·赛廷，他表示：“自主代理人工智能指的是能够在无需持续的人类指导下自主实现目标的AI系统和模型。自主代理人工智能系统理解用户的目标或愿景以及他们试图解决的问题的背景。”相关：为什么大多数自主架构会失败。自主代理人工智能通过结合机器学习（机器学习）、自然语言处理（自然语言处理）和自动化来实现这一目标。它的使命是做出决策并付诸行动。公司可以设计需要最终由人类授权才能做出某些决策的自主代理人工智能系统，也可以使自主代理人工智能完全自主，使其自行做出决策。大多数自主代理人工智能的采用是由终端用户部门赞助和资助的，这意味着IT部门可能参与也可能不参与最初的评估和购买决策。高德纳引用了一个早期的例子，说明自主代理人工智能可以在零售业中部署。“AI驱动的机器客户——或非人类经济行为体，即通过支付获得商品和服务——是日益常见的智能代理的例子。未来，它们将根据预设规则为人类客户做出优化决策，并迅速向更大的自主性和需求推断发展。”
因此，既然自主代理人工智能即将来临，而且IT部门可能是最后一个知道自主代理人工智能购买决定的部门，首席信息官们应该如何应对这种情况？相关：10个原因说明多代理架构将极大推动人工智能的发展。首席信息官在自主代理人工智能方面的关键点：现在就制定IT的自主代理人工智能战略。自主代理人工智能潜力巨大。它可以自动化日常业务操作和决策制定，IT部门需要为此制定策略。从某种意义上说，自主代理人工智能及其能做的事情已经在之前的版本中为人所知，比如在银行贷款部门已经存在并有效运作了几十年的自动化贷款决策软件。然而，现在趋势正朝着更高的自主性发展。业务用户将决定在哪里使用自主代理人工智能，但这将是IT部门的责任，要提出关于异常处理、流程和系统整合、治理和安全的问题，以确保自主代理人工智能的安全和高效使用。在这种环境下，首席信息官的一个首要任务是与用户共同参与自主代理人工智能的战略讨论，以便识别“最佳用途”的业务案例。然后，应该有一个包括用户和IT在内的协作策略，不仅要考虑业务流程的简化和自动化，还要考虑异常处理、流程和系统的整合。此外，他们还应关注用户和IT培训、安全和治理。
尽管自主代理人工智能将由用户驱动，但现在不是IT部门退居二线的时候。相关：GenAI真的安全和安全吗？讨论安全和备用方案。销售部门可能会资助并采用自主代理人工智能来自主执行产品订购机制，但如果恶意行为者渗透了自主代理人工智能并将其锁定以勒索赎金，或者如果该恶意行为者入侵了自主代理人工智能软件并注入了恶意软件或错误算法，从而危及和损害其功能，那又该怎么办？销售团队会迅速转向IT部门解决这些问题，因此首席信息官们应主动询问销售部门和自主代理人工智能供应商所提供的安全类型。公司应对AI进行审查，确保其符合公司的安全和治理标准。还应询问是否有备用的人工客服，以防自主代理人工智能失效或运行不畅。公司在灾难恢复计划中应有一套明确的备用程序，提供人工能力以覆盖或接管自主代理人工智能。
无论是否愿意，都要准备好项目纳入！IT部门可能不会参与最初的自主代理人工智能购买决策，但它肯定会参与到自主代理人工智能项目中，因为如果没有与其他公司系统集成，AI将无法走得太远。因此，IT部门应确保用户与IT的自主代理人工智能项目讨论集中在系统集成上，并明确界定一个项目测试环境，用于自主代理人工智能融入业务流程。成功的业务流程整合应涵盖用户培训和技术准备情况，并考虑如果自主代理人工智能失效或开始做出糟糕决策会发生什么。首席信息官不应回避在自主代理人工智能项目中明确这些流程导向的任务，因为一旦技术投入使用出现问题，很可能被归咎于“系统”。
(以上内容均由Ai生成)
