美团LongCat团队发布VitaBench,推动智能体真实场景应用
快速阅读: 美团LongCat团队发布VitaBench智能体评测基准,涵盖外卖点餐、旅游出行等场景,含66个工具,旨在提升智能体在复杂生活场景中的应用能力,目前开源。
近日,美团LongCat团队正式发布了名为VitaBench的智能体评测基准,旨在针对多交互任务,特别是在复杂生活场景中的应用。VitaBench的推出,为智能体在真实生活场景中的研发提供了重要的基础设施。
VitaBench聚焦于外卖点餐、餐厅就餐和旅游出行等高频真实场景,构建了一个包含66个工具的交互式评测环境。评测任务设计涵盖了从购票到餐厅预订等多项复杂操作,要求智能体在执行任务时进行深度推理、工具调用及用户互动的综合表现。
尽管当前领先的推理模型已取得一定进展,但LongCat团队的研究显示,智能体在复杂跨场景任务中的成功率仍不足30%,反映出当前技术与实际应用需求之间存在显著差距。VitaBench的开发旨在解决这一问题,填补现有智能体评测基准与真实生活场景应用之间的空白。
该基准的设计基于对推理复杂性、工具复杂性和交互复杂性三个维度的深入分析。团队通过量化这些维度,系统地衡量智能体在真实场景中的表现。例如,推理复杂度主要通过信息整合需求、观察空间大小及所需处理的推理点数量来评估;工具复杂度则考虑工具的依赖关系与调用链长度;交互复杂度则关注智能体在多轮对话中的应对能力。
VitaBench的构建分为两个阶段,首先是框架设计和工具定义,其次是任务创建和评估标准制定。这一过程确保了任务的多样性和复杂性,同时避免了传统文档模式的局限性,使智能体能够在没有冗余规则的情况下,自主推理和决策。
目前,VitaBench已全面开源,研究人员和开发者可通过其官方网站和GitHub访问相关资源。VitaBench的发布标志着智能体评测领域的重要里程碑,预计将推动智能体技术在真实生活场景中的进一步应用与发展。项目主页:https://vitabench.github.io 论文链接:https://arxiv.org/abs/2509.26490 代码仓库:https://github.com/meituan-longcat/vitabench 数据集:https://huggingface.co/datasets/meituan-longcat/VitaBench 排行榜:https://vitabench.github.io/#Leaderboard
(以上内容均由Ai生成)