37 lines
1020 B
Markdown
37 lines
1020 B
Markdown
|
---
|
|||
|
|
tags: [rag, llm, search, embedding]
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
## RAG 检索增强生成
|
|||
|
|
|
|||
|
|
RAG（Retrieval-Augmented Generation）是一种将外部知识库与大语言模型结合的技术范式。
|
|||
|
|
|
|||
|
|
## RAG 的核心流程
|
|||
|
|
|
|||
|
|
### 1. 索引阶段（Indexing）
|
|||
|
|
- 加载文档（Document Loader）
|
|||
|
|
- 文本分块（Chunking）
|
|||
|
|
- 向量化（Embedding）
|
|||
|
|
- 存入向量数据库（Indexer）
|
|||
|
|
|
|||
|
|
### 2. 检索阶段（Retrieval）
|
|||
|
|
- 用户查询向量化
|
|||
|
|
- 向量相似度搜索
|
|||
|
|
- 返回 Top-K 相关文档
|
|||
|
|
|
|||
|
|
### 3. 生成阶段（Generation）
|
|||
|
|
- 将检索结果注入 Prompt
|
|||
|
|
- LLM 基于上下文生成回答
|
|||
|
|
|
|||
|
|
## 混合检索
|
|||
|
|
|
|||
|
|
结合语义搜索（向量相似度）和关键词搜索（BM25），取长补短：
|
|||
|
|
- 语义搜索：理解用户意图，找到表述不同但意思相近的内容
|
|||
|
|
- 关键词搜索：精确匹配专业术语和专有名词
|
|||
|
|
|
|||
|
|
## 向量数据库选型
|
|||
|
|
|
|||
|
|
- **Milvus**：分布式，适合大规模生产环境
|
|||
|
|
- **Chroma**：轻量级，适合原型开发
|
|||
|
|
- **内存实现**：最简单，适合小规模和个人项目
|