多智能体系统成功的关键:共享上下文设计
快速阅读: ServiceNow广告展示AI代理团队提升虚构公司生产力,获B2B SaaS公司认可。KPMG报告显示65%公司试用AI代理,预计释放30万亿美元生产力,强调上下文设计对多代理系统成功的重要性。
一组AI代理在分析业务数据和绩效指标时协调并共享上下文。
在最新的ServiceNow商业广告中,伊德里斯·艾尔巴称赞了ServiceNow的AI代理团队在一家虚构公司中提升各部门生产力的效果。这一承诺得到了许多B2B SaaS公司的呼应。根据KPMG的《AI脉搏调查》2025年第一季度的数据显示,65%的公司已经在试用AI代理。他们估计,基于对1700万公司的专有模型建模,这些代理将释放出30万亿美元的生产力。然而,要实现这一愿景,AI代理的上下文是其业务成功的基础。
无论是代理群(多个代理组成的团队)还是人类团队,要有效运作,都需要在彼此和组织之间共享上下文。上下文对于构建良好的代理系统至关重要。设计得当,意味着更高的采纳率;设计不当,则可能导致客户不采纳和信任破裂。
良好的上下文设计就是良好的AI代理设计。据2025年Infosys的一项针对1500名高级管理人员的调查显示,95%的高管报告称,在企业AI方面经历了负面事件,如政策违规或系统故障。拨打客户服务电话时被转接到新的客服人员,不得不重新解释所有事情,这令人沮丧。同样,甚至更加令人沮丧的是,向AI代理解释任务及其关键信息,随后又不得不将所有这些上下文提供给另一个可能看起来不是独立代理的代理。
在代理世界中,当没有有意设计或管理上下文时,就会发生这种情况。这对于多代理系统来说是至关重要的。无论您的公司是在构建还是购买AI代理,以下是你需要了解的良好上下文设计的关键点。
代理上下文主要包括四部分:
当前输入:来自用户的输入,可以是文本、音频、文档,有时还包括视频和其他格式。
过去互动与记忆:这包括用户之前提供的信息和提示。代理利用这些信息来塑造未来的输出。过去的互动越多,需要适应上下文窗口的信息就越多,而上下文窗口的大小是有限的。因此,需要有意设计以压缩形式包含这些信息。
领域知识:某些代理专门针对特定领域,如医疗保健或金融。如果没有内置的领域知识,代理在这些领域的相关性和实用性将大打折扣。
情境与上下文意识:代理应具有情境或上下文意识,以便产生与用户意图相一致的输出。这意味着对用户任务流程的意识或对网页上下文的引用。
在代理团队中,每个元素都比单个代理场景更为复杂。越来越多的代理被设计为团队工作,而非单独行动。构建多代理系统面临挑战,必须克服这些挑战才能赢得用户的信任,甚至愿意为此付费。
防止AI代理上下文碎片化
当多个代理协同工作时,它们需要共享过去的提示、信息(文档、文本、链接)以及用户的目标。如果没有这一点,用户可能会因为需要在不同代理间重复自己而感到沮丧,或者更糟的是,认为代理出现故障,因为响应或输出不一致。在整个代理群中共享上下文还有助于防止代理输出和决策之间的矛盾。
管理上下文窗口限制
大多数代理依赖于大型语言模型(LLM),这些模型存在上下文窗口限制。“大型语言模型的上下文容量有限,”Ensue的联合创始人兼首席执行官奥斯汀·巴吉奥在接受采访时说,“当这些模型接近这些限制时,它们的表现会变差。我们交谈过的开发者表示,当填满上下文窗口时,模型开始产生幻觉。”
在设计上下文层时,不能包括每一个提示、文档、代理响应和用户输入。代理构建者需要为上下文窗口限制创建自己的解决方案,或者利用现成的解决方案。
AI代理上下文的内存管理
必须设计内存管理,以使代理能够高效地共享内存。这种架构将影响产品解决上下文碎片化和上下文窗口限制的能力。
Digits的首席机器学习工程师汉内斯·哈普克在一次对话中提到,他从两个方面考虑内存问题:“短期记忆等于聊天的压缩和总结。长期记忆等于从多次对话中提取偏好,并将其注入未来的问题中。”
当多个代理协同工作时,设计简短的记忆可以更容易地共享对话。设计长期记忆意味着一个代理学到的用户偏好可以与其他代理分享,从而节省用户的时间和精力。
设计好AI代理的上下文是解锁多代理系统价值的关键。三个重要因素是处理上下文碎片化和协调、上下文窗口限制以及内存管理。这些因素决定了客户是否会因重复向代理提供信息而放弃使用,或是产品成为用户不可或缺的一部分。良好的上下文层是使代理团队变得有价值的重要组成部分。
(以上内容均由Ai生成)