Skip to content

大型语言模型(LLMs)功能强大,但它们存在两个关键限制:

  • 有限的上下文 —— 它们无法一次性处理整个语料库。
  • 静态知识 —— 它们的训练数据在某个时间点被冻结。

检索(Retrieval)通过在查询时获取相关的外部知识来解决这些问题。这是检索增强生成(Retrieval-Augmented Generation,RAG) 的基础:利用特定上下文信息来增强 LLM 的答案。

构建知识库

知识库 是在检索过程中使用的文档或结构化数据的存储库。

如果你需要一个自定义的知识库,可以使用 LangChain 的文档加载器和向量存储来从你自己的数据中构建一个。

如果你已经有一个知识库(例如,SQL 数据库、CRM 或内部文档系统),你不需要重建它。你可以: - 将其作为工具连接到 Agentic RAG 中的智能体。 - 查询它,并将检索到的内容作为上下文提供给 LLM (两步式 RAG)

请参阅以下教程,以构建一个可搜索的知识库和最小的 RAG 工作流:

教程:语义搜索

学习如何使用 LangChain 的文档加载器、嵌入模型和向量存储,从你自己的数据创建一个可搜索的知识库。 在本教程中,你将构建一个基于 PDF 的搜索引擎,实现对与查询相关的段落进行检索。你还将在此引擎之上实现一个最小的 RAG 工作流,以了解如何将外部知识集成到 LLM 的推理中。

了解更多

从检索到 RAG

检索使 LLMs 能够在运行时访问相关上下文。但大多数现实世界的应用更进一步:它们将检索与生成相结合,以产生有依据、具备上下文感知能力的答案。

这就是检索增强生成(RAG) 背后的核心理念。检索流程成为一个更广泛系统的基础,该系统将搜索与生成相结合。

检索流程

一个典型的检索工作流如下所示:

mermaid
flowchart LR
  S(["Sources<br>(Google Drive, Slack, Notion, etc.)"]) --> L[Document Loaders]
  L --> A([Documents])
  A --> B[Split into chunks]
  B --> C[Turn into embeddings]
  C --> D[(Vector Store)]
  Q([User Query]) --> E[Query embedding]
  E --> D
  D --> F[Retriever]
  F --> G[LLM uses retrieved info]
  G --> H([Answer])

每个组件都是模块化的:你可以更换加载器、分割器、嵌入模型或向量存储,而无需重写应用程序的逻辑。

构建模块

RAG 架构

RAG 可以通过多种方式实现,具体取决于你系统的需求。我们在下面的章节中概述了每种类型。

架构描述控制力灵活性延迟示例用例
两步式 RAG检索总是在生成之前发生。简单且可预测✅ 高❌ 低⚡ 快常见问题解答、文档机器人
智能体式 RAG由 LLM 驱动的智能体在推理过程中决定何时以及如何进行检索❌ 低✅ 高⏳ 可变可以访问多个工具的研究助手
混合式 RAG结合了两种方法的特点,并包含验证步骤⚖️ 中等⚖️ 中等⏳ 可变带有质量验证的特定领域问答

延迟:在两步式 RAG 中,延迟通常更可预测,因为 LLM 调用的最大次数是已知且有上限的。这种可预测性假设 LLM 推理时间是主要因素。然而,实际延迟也可能受到检索步骤性能的影响——例如 API 响应时间、网络延迟或数据库查询——这些性能会根据所使用的工具和基础设施而变化。

两步式 RAG

两步式 RAG 中,检索步骤总是在生成步骤之前执行。这种架构简单直接且可预测,适用于许多应用场景,在这些场景中,检索相关文档是生成答案的明确前提。

mermaid
graph LR
    A[用户问题] --> B["检索相关文档"]
    B --> C["生成答案"]
    C --> D[向用户返回答案]

    %% Styling
    classDef startend fill:#2e7d32,stroke:#1b5e20,stroke-width:2px,color:#fff
    classDef process fill:#1976d2,stroke:#0d47a1,stroke-width:1.5px,color:#fff

    class A,D startend
    class B,C process

教程:检索增强生成(RAG)

了解如何使用检索增强生成构建一个能够基于你的数据回答问题的问答聊天机器人。 本教程将介绍两种方法: * 一个使用灵活工具进行搜索的 RAG 智能体——非常适合通用用途。 * 一个每次查询只需一次 LLM 调用的 两步式 RAG 链——对于更简单的任务来说快速高效。

了解更多

智能体式 RAG

智能体式检索增强生成(Agentic RAG) 结合了检索增强生成和基于智能体的推理的优势。与在回答之前检索文档不同,一个由 LLM 驱动的智能体逐步推理,并在交互过程中决定何时以及如何检索信息。

智能体要启用 RAG 行为,唯一需要的就是能够访问一个或多个可以获取外部知识的工具——例如文档加载器、Web API 或数据库查询。

mermaid
graph LR
    A[用户输入 / 问题] --> B["智能体 (LLM)"]
    B --> C{需要外部信息?}
    C -- 是 --> D["使用工具进行搜索"]
    D --> H{信息足够回答吗?}
    H -- 否 --> B
    H -- 是 --> I[生成最终答案]
    C -- 否 --> I
    I --> J[返回给用户]

    %% Dark-mode friendly styling
    classDef startend fill:#2e7d32,stroke:#1b5e20,stroke-width:2px,color:#fff
    classDef decision fill:#f9a825,stroke:#f57f17,stroke-width:2px,color:#000
    classDef process fill:#1976d2,stroke:#0d47a1,stroke-width:1.5px,color:#fff

    class A,J startend
    class B,D,I process
    class C,H decision
python
import requests
from langchain.tools import tool
from langchain.chat_models import init_chat_model
from langchain.agents import create_agent

@tool
def fetch_url(url: str) -> str:
    """从 URL 获取文本内容"""
    response = requests.get(url, timeout=10.0)
    response.raise_for_status()
    return response.text

system_prompt = """\
当你需要从网页获取信息时,使用 fetch_url;引用相关的片段。
"""

agent = create_agent(
    model="claude-sonnet-4-5-20250929",
    tools=[fetch_url], # 用于检索的工具
    system_prompt=system_prompt,
)
Show 扩展示例:用于 LangGraph 的 llms.txt 的智能体式 RAG

教程:检索增强生成(RAG)

了解如何使用检索增强生成构建一个能够基于你的数据回答问题的问答聊天机器人。 本教程将介绍两种方法: * 一个使用灵活工具进行搜索的 RAG 智能体——非常适合通用用途。 * 一个每次查询只需一次 LLM 调用的 两步式 RAG 链——对于更简单的任务来说快速高效。

了解更多

混合式 RAG

混合式 RAG 结合了两步式 RAG 和智能体式 RAG 的特点。它引入了中间步骤,例如查询预处理、检索验证和后生成检查。这些系统比固定流程提供了更多的灵活性,同时保持了对执行过程的某种控制。

典型的组件包括:

  • 查询增强:修改输入问题以提高检索质量。这可能涉及重写不明确的查询、生成多个变体或用额外的上下文扩展查询。
  • 检索验证:评估检索到的文档是否相关且充分。如果不是,系统可能会优化查询并再次检索。
  • 答案验证:检查生成的答案的准确性、完整性以及与源内容的一致性。如果需要,系统可以重新生成或修改答案。

该架构通常支持这些步骤之间的多次迭代:

mermaid
graph LR
    A[用户问题] --> B[查询增强]
    B --> C[检索文档]
    C --> D{信息充分?}
    D -- 否 --> E[优化查询]
    E --> C
    D -- 是 --> F[生成答案]
    F --> G{答案质量合格?}
    G -- 否 --> H{尝试不同方法?}
    H -- 是 --> E
    H -- 否 --> I[返回最佳答案]
    G -- 是 --> I
    I --> J[返回给用户]

    classDef startend fill:#2e7d32,stroke:#1b5e20,stroke-width:2px,color:#fff
    classDef decision fill:#f9a825,stroke:#f57f17,stroke-width:2px,color:#000
    classDef process fill:#1976d2,stroke:#0d47a1,stroke-width:1.5px,color:#fff

    class A,J startend
    class B,C,E,F,I process
    class D,G,H decision

这种架构适用于:

  • 具有模糊或未明确指定查询的应用程序
  • 需要验证或质量控制步骤的系统
  • 涉及多个来源或迭代优化的工作流

教程:具有自我修正功能的智能体式 RAG

一个结合了智能体推理、检索和自我修正的 混合式 RAG 示例。

了解更多

LangChain 中文文档