‌基本定义‌
RAG（Retrieval-Augmented Generation）将传统信息检索系统（如向量数据库、知识图谱）与生成式大语言模型（LLM）结合。其核心原理是通过检索外部知识库中的相关信息，并将检索结果作为上下文输入给LLM，指导其生成更精准的答案‌12。

‌工作流程‌

‌检索阶段‌

：基于用户查询从大规模文档库中匹配相关段落（如使用BM25、DPR等检索模型）‌17；

‌增强阶段‌

：对检索结果进行过滤、重排或补充元数据，提升信息质量‌68；

生成阶段‌

：LLM结合检索到的上下文生成最终回答‌

RAG 常用工具分类及代表产品

一、框架与开发平台

• ‌LangChain‌

        提供文档加载、检索器集成（BM25、Chroma、FAISS等）、提示工程等全流程开发支持，支持多模态数据源接入‌35。

• ‌LlamaIndex‌

        专注大规模数据索引与检索优化，支持树形索引、向量相似性搜索等高效检索方法，适配主流LLM‌35。

• ‌NeMo Guardrails‌

        NVIDIA 推出的开源工具包，用于为对话系统添加安全防护规则，控制话题边界并提升交互可靠性‌13。

二、向量数据库

• ‌Chroma‌

        轻量级开源向量数据库，支持快速嵌入存储与相似性搜索，适合中小规模RAG应用‌35。

• ‌Pinecone‌

托管式向量数据库，提供高吞吐量检索服务，支持自动扩缩容与低延迟响应‌23。

• ‌FAISS‌

        Meta 开源的相似性搜索库，适用于大规模向量聚类与高效近邻检索‌23。

• ‌Elasticsearch‌

        支持全文检索与向量混合搜索，适合需要结合结构化与非结构化数据的场景‌25。

三、检索模型与算法

• ‌BM25‌

  经典关键词检索算法，适用于精确匹配场景，常作为基线模型与向量检索互补‌35。

• ‌ColBERT‌

  基于上下文的稠密检索模型，结合语义理解提升段落匹配精度‌34。

• ‌DPR（Dense Passage Retrieval）‌

  双编码器架构的稠密检索模型，通过微调优化问答相关性‌15。

四、嵌入模型

• ‌OpenAI Embeddings‌

  提供预训练文本向量化服务，支持多语言与长文本分块处理‌45。

• ‌BERT/Word2Vec‌

  通用语义嵌入模型，可通过Hugging Face等平台快速部署‌24。

五、评估工具

• ‌TruLens‌

  自动化评估RAG系统输出质量，分析上下文相关性与生成结果忠实性‌6。

• ‌RAGAS‌

  开源评估框架，提供检索覆盖率、答案准确性等多维度指标‌6。

六、其他工具

• ‌Hugging Face Transformers‌

  集成RAG预训练模型与微调工具链，支持快速实验‌25。

• ‌PyTorch/TensorFlow‌

  深度学习框架，用于自定义检索或生成组件的模型训练‌2。

• ‌Jupyter Notebooks‌

  交互式开发环境，常用于RAG流程原型设计与调试‌