跳转到内容

RAG Fundamentals(RAG 基础)

知识库位置:FDE Knowledge Base/03 Engineering/AI Engineering/RAG/RAG-Fundamentals.md 关联架构文章:Enterprise RAG Architecture(企业级 RAG 架构)

RAG,全称 Retrieval-Augmented Generation(检索增强生成)。

核心思想是:

在让 LLM(Large Language Model,大语言模型)回答问题之前,先检索(Retrieval,检索)相关外部知识,并将这些知识作为 Context(上下文)提供给模型。

基本流程:

User Query(用户查询)
↓
Retrieval(检索)
↓
Relevant Documents(相关文档)
↓
Prompt + Context(提示词 + 上下文)
↓
LLM(大语言模型)
↓
Answer(回答)

数据准备流程:

Documents(文档)
↓
Parsing(解析)
↓
Chunking(分块)
↓
Embedding(向量化/嵌入)
↓
Vector Store(向量存储)

LLM 本身可能不知道:

  • 企业内部流程
  • 私有文档(Private Document,私有文档)
  • 最新政策
  • 产品资料
  • 客户数据

RAG 可以将企业知识(Enterprise Knowledge,企业私有知识)动态提供给模型。

RAG 并不只是「接一个 Vector Database(向量数据库)」。

核心问题包括:

原始文档是否正确解析?

文档如何拆分?

如何建立索引?

如何找到真正相关的信息?

放多少 Context(上下文)?

模型如何根据 Context(上下文)回答?

怎么知道回答是正确的?

很多所谓:

LLM 回答不准确

实际上不是模型问题,而是 Retrieval(检索)问题。

因此 Debug(调试)RAG 应该拆开:

Retrieval Quality(检索质量)
vs
Generation Quality(生成质量)