了解 RAG 架构及其基础知识

快速阅读: 据《计算机周刊》称，向量数据库不仅存储向量，还集成最近邻搜索算法进行语义检索。常见算法包括HNSW、DiskANN和ScANN，搜索基于余弦或欧氏距离。余弦距离更适合语义相似性，但欧氏方法更高效。为控制结果数量，常使用top-k截断，但大数据库可能降低精度。

向量数据库及其检索算法

向量数据库的功能远不止于存储向量——它们通常集成了基于最近邻技术的语义搜索算法，用于索引和检索与问题匹配的信息。大多数出版商采用了分层可导航小世界（HNSW）算法。微软凭借其开源算法DiskANN也产生了重要影响，该算法旨在通过大量向量实现性能与成本的理想平衡，但会在一定程度上牺牲准确性。谷歌则选择自主研发模型ScANN，同样针对大规模数据进行优化。搜索过程涉及遍历向量图的维度，寻找最接近的邻居，其基础是余弦或欧几里得距离的计算。

向量数据库与检索算法

余弦距离在识别语义相似性方面表现更出色，而欧几里得方法更为简单，对计算资源的需求也较低。

由于大多数数据库依赖于近似最近邻搜索，系统可能会返回多个可能与答案相关的向量。可以设置结果数量上限（top-k截断）。这是必要的，因为我们需要确保用户的查询和生成答案所需的信息能够适应大型语言模型（LLM）的上下文窗口。然而，当数据库中包含大量向量时，精度可能会下降，或者我们期望找到的结果可能超出限定范围。

(以上内容均由Ai生成)