Databricks 推出将 AI 代理扩展到生产环境的工具
快速阅读: 据《CRN 澳大利亚》最新报道,Databricks 推出了多款新工具,旨在帮助企业更自信地将AI代理从试点阶段推进到生产阶段。这些工具包括通过 Mosaic AI 网关集中管理所有AI模型,简化与AI/BI精灵对话API套件的集成,升级代理评估审查应用,以及推出无预置批量推理功能。这些工具现已在公共预览版中提供。许多企业因担心准确度、治理和安全性,在高价值应用场景中难以部署AI代理,Databricks 的新工具有助于解决这些问题。
Databricks 推出了系列新工具,旨在帮助组织更自信地将AI代理从试点阶段推进到生产阶段,即使对于关键任务应用也是如此。该公司表示,他们开发这些解决方案以应对企业在部署生成式AI时遇到的挑战。其关于解锁AI的研究表明,现在全球有百分之八十五的公司正在使用这项技术,但它们在业务特定准确度、治理和安全性方面面临困难。“许多企业由于对准确度、治理和安全性的担忧,在高价值应用场景中难以部署AI代理,”AI/ML产品高级总监克雷格·威利表示。威利补充说:“对这些组织而言,最大的障碍不仅是技术问题,更是缺乏信心,这阻碍了它们充分利用生成式AI带来的全部数据智能优势。”
新推出的工具包括通过Mosaic AI网关实现所有AI模型的集中管理,并支持自定义LLM供应商,提供统一的监控和集成,适用于开源和商业模型。Databricks 还推出了与AI/BI精灵对话API套件简化集成的能力。这使得开发者能够直接将自然语言聊天机器人嵌入到自定义应用程序或工具中,如微软团队、SharePoint和Slack。该API在对话线程中的多个后续问题中保持上下文,从而实现更自然的交互。
升级后的代理评估审查应用程序简化了人机协作的工作流程,使领域专家能够更轻松地提供针对性反馈并定制评估标准,而无需使用电子表格或自定义应用程序。Databricks 还推出了无预置批量推理功能,允许用户使用单一SQL查询运行批量推理,消除基础设施预配需求,同时实现无缝非结构化数据集成。这四款工具现已在公共预览版中提供。
(以上内容均由Ai生成)