如何在企业中成功部署 AI 助手

快速阅读: 《印度分析杂志》消息，人工智能助手正在改变企业运营，特别是在客户服务、销售、营销等领域。马特科公司展示了如何成功部署AI代理，其“努克利奥斯”平台集成生成式AI功能，帮助企业构建自动化解决方案。成功的实施策略包括识别正确应用场景、早期用户反馈和预处理输入数据。此外，重视用户体验和测试也至关重要。

人工智能赋能的助手和代理在转变各个企业部门方面提供了前所未有的潜力，这一点已不是秘密。无论是客户服务、销售、营销、收入还是研究，AI助手都能覆盖。马特科公司研发和平台负责人苏拉夫·班纳杰在2025年机器学习开发者峰会（MLDS）上展示了如何成功部署企业中的AI代理。该公司目前正在开发具备生成式AI功能的对话助手，提供品牌、营销和研究洞察，并且帮助数据发现、客户服务和收入管理的助手。此外，马特科公司还在开发集成到工作流程中的AI解决方案，如研究总结助手、合同审查助手和产品趋势分析器。这些解决方案主要集中在将非结构化数据转换为结构化数据，并进一步整合到工作流程中。公司的专有AI平台“努克利奥斯”旨在通过预构建的工作流和即插即用模块帮助企业构建端到端的自动化解决方案。它集成了生成式AI功能，以增强平台生成洞察和摘要的能力，从而改善用户的决策能力。班纳杰提出了若干策略，成功实施这些解决方案。他说，当这些解决方案首次进行内部测试时，公司注意到成功率很高。这确实是一种确保任何潜在损害都可内部控制的方法，同时了解其能力。此外，在付费API提供商的基础上构建解决方案也是一种高效的部署方法，因为它不需要额外的基础设施。然而，班纳杰透露，一旦客户在测试和生产后观察到方案的优点，他们大多会转向开源解决方案。购买而非构建的重要性、预处理以及特定上下文班纳杰详细介绍了启动AI项目的流程。这个过程从识别正确的应用场景开始，然后让用户尽早参与到概念化阶段。早期获得用户的反馈对于构建高效解决方案至关重要。虽然重新发明轮子并构建解决方案可能看起来很诱人，但班纳杰强调，可以利用现有产品和解决方案。这有助于加快概念验证的交付速度。另一个重要方面是用户体验，因为与传统系统不同，AI的输出是概率性的，而不是确定性的。马特科公司通过提供各种控制输出的功能来解决这个问题，例如编辑、更新上下文、显示来源和提供多个选项的能力。而且，当输出延迟时，始终向用户展示输出步骤也很重要。班纳杰深入探讨了预处理的重要性，强调不良输入数据会造成不良的AI输出。例如，预处理可以提高文本到SQL AI模型和市场研究文档分析的准确性。他举例说明了将演示文稿幻灯片转换为问答交互的过程。最初，幻灯片被转换成JSON格式。接下来，提取文本、图表和图像并分开。最后，通过链接前后幻灯片来保持上下文，生成元数据以便快速检索。这种方法有助于AI更有效地处理文档。此外，AI还需要理解企业特定的上下文才能尽可能有用。这包括数据结构、业务流程和用户角色。例如，如果提示要求提供“我的品牌”的销售数据，大型语言模型（LLM）并不知道具体含义。组织需要对各种类型的上下文进行分类并传递给模型。测试AI解决方案和“无情地优先考虑你的需求层次”尽管重点在于部署和完善这些助手，但测试同样重要。虽然使用整个模型作为裁判可能有帮助，但人工生成的测试数据更为可靠和首选。大型语言模型（LLM）作为裁判也可能在工作流程中引入另一轮延迟。班纳杰还观察到，当大型语言模型（LLM）用于生成问题和答案时缺乏细微差别。此外，多代理系统需要针对每个代理和最终系统进行测试。然而，现实世界的准确性可能与测试准确性有很大不同。班纳杰建议通过比较测试问题和生产问题之间的嵌入来衡量漂移。然而，为了加速所有这些模型的发展，可重用模型是必不可少的。例如，Tableau和PowerBI用于前端集成、预构建的代理如文本到SQL和文档摘要，以及自动化测试工具可以减少时间并提高可扩展性。部署这些解决方案需要结合AI、工程和产品管理技能贯穿所有阶段。例如，AI工程师需要定义问题并创建原型。AI产品经理、用户体验设计师和工程师需要为用户构建可用的产品。软件开发人员、数据工程师和测试人员需要为生产环境优化系统。他最后一部分可能最重要，以一位应用大型语言模型（LLM）指南的话作为开场白：“无情地优先考虑你的需求层次。”系统需要可靠、无害、有用、可扩展、成本效益高且安全。虽然班纳杰说不能一次性解决所有方面，但他建议至少优先考虑两到三个因素。

(以上内容均由Ai生成)