RAG在企业落地的难点与创新 AICon

随着大型语言模型在语言理解与生成方面取得革命性进展，如何有效解决模型的固有局限，如幻觉现象与知识时效性，成为了业内亟需突破的难题。检索增强生成（RAG）技术的提出，为这一问题提供了新的解决方案。RAG通过引入外部知识库和信息检索机制，提升了模型的输出质量，使其能够处理更加复杂和动态的信息。
然而，在企业实际落地过程中，RAG技术依旧面临着一系列的挑战。从数据检索和信息理解到推理能力优化，如何在不同行业中实现高效应用，仍是许多企业需要攻克的难题。
2024年12月13-14日，AICon全球人工智能开发与应用大会·北京站，将再次汇聚全球顶尖AI专家，展示最新的AI技术和应用创新。在此次会议中，我们特别推出专场《RAG在企业落地的难点与创新》，聚焦于当前企业在实际应用大语言模型时面临的挑战与创新实践。本次专场将深入探讨RAG技术的最新进展，解析其在医疗健康、语义搜索等领域的创新实践，并分享多方位的解决方案。
更多议题可以复制链接到浏览器查看大会日程（或点击阅读原文）：https://aicon.infoq.cn/202412/beijing/schedule
本次专题的出品人为周景博，其目前担任百度研究院商业智能实验室负责人、资深研究员。周博士参与并支持了百度多项重量级大模型项目的研发与落地工作，包括全球首个AI原生地图产品—百度地图AI向导、智慧城市政务大模型应用、多模态生物计算大模型等。
精彩分享一
在医疗健康领域，RAG（检索增强生成）是大模型应用的重要方向。它有效缓解了部分大模型幻觉、信息更新时效性等问题，能够提升大模型在医学知识库问答的效果。然而，在实际应用中，我们发现RAG仍存在一些挑战，如文档解析结构理解、大模型生成幻觉、复杂医学问题难以解答等。
大会上，百度灵医大模型底座技术负责人夏源的演讲《在医疗健康领域，企业大模型RAG优化实践》将分享针对上述问题的解决方案。
精彩分享二
RAG到底要不要做语义检索，业界有很多讨论，但尚没有定论。来自HuggingFace的机器学习工程师尹一峰，将在本次大会上发表题为《RAG基本范式的选择与系统设计》的演讲，他将深入探讨基于语义搜索（SemanticSearch）的RAG系统的重要性，揭示它为何在当前技术背景下被严重低估。
另外，他也将讨论分析语义搜索的本质及其在RAG系统中的关键作用，并分享如何基于这一本质设计出高效的系统架构。同时，还将讨论KG驱动的RAG系统，并指出它并非适用于所有数据类型，帮助听众理解如何根据不同的数据特性选择最合适的RAG范式。
精彩分享三
RAG目前在很多生成式AI产品中已经得到广泛应用。当前RAG的构建方式呈现多样化发展，对底层数据引擎提出很多新的挑战。
火山引擎技术专家田昕晖的演讲《云数据仓库ByteHouse架构下的RAG技术实践与性能优化》，则将重点探讨如何在云原生数据仓库架构中设计和实现RAG相关技术，并介绍一些复杂RAG场景中的应用和实践经验。
精彩分享四
虽然，RAG已在许多生成式AI产品中广泛应用。然而，构建企业级的RAG系统仍然面临诸多挑战。首先，应用场景多样化：系统需支持处理结构化和非结构化文档，满足多模态问答需求，并整合不同工具，以适应多种业务场景。其次，系统优化难题：文档解析、文本切分、查询改写、检索优化、重排序、生成等多个算法模块需要高效协同，以提升整体性能。最后，企业级能力集成：RAG系统需具备高可扩展性、良好的可观测性，并支持知识库的持续迭代与更新。
在本场专题下，阿里云高级技术专家费跃将带来演讲《构建企业级RAG系统的创新实践》，分享阿里云PAI团队在构建企业级RAG服务方面的设计理念与实践经验，希望与大家共同探索、持续进步。
想了解更多AICon大会的精彩内容，或亲临现场与同行进一步探讨RAG应用经验，欢迎扫描下方海报二维码咨询👇🏻