RAG(检索增强生成)是把大语言模型与外部知识库结合的技术:先检索相关资料再让模型回答,解决幻觉、知识过时和私有数据不可见问题。本文介绍 RAG 的原理、工作流程与典型应用。
学习内容
RAG 是 Retrieval-Augmented Generation 的缩写,中文通常译为"检索增强生成"。它是一套把大语言模型(LLM)与外部知识库结合起来的技术方案:模型在回答用户问题之前,先从知识库里检索出与该问题相关的资料片段,把资料作为参考"垫"给模型,再让模型基于这些资料生成回答。
为什么要多这一步?因为大语言模型本身的知识有两个天然限制:一是训练数据有截止时间,最新的信息它不知道;二是它的知识来自公开语料,企业内部文档、个人笔记、私有数据库这些内容它根本没有见过。RAG 的解决思路不是去修改模型,而是在回答时"临时查资料"——就像开卷考试允许带参考书,检索到的资料就是那本参考书。
知识库问答(比如企业客服机器人、文档助手、校园助手)对准确性要求高,如果只靠模型自身记忆回答,会遇到三个绕不开的问题:
简单说:RAG 解决的是"模型不知道、知道的是旧的、或者不能知道(私有)"这三类问题,这是知识库问答能落地的基本前提。
一个典型的 RAG 系统包含三个环节:入库、检索、生成。
第一步:知识入库(索引阶段)
把文档(PDF、Word、网页等)切分成小块(chunk),每一块通过嵌入模型转换成向量(一串代表语义的数字),存入向量数据库。入库时还会记录每块文本的来源,便于回答时标注出处。
第二步:检索(查询阶段)
用户提问后,系统把问题也转成向量,在向量库里找语义上最接近的若干文本块(通常还会配合关键词检索做混合召回),取回 Top-K 个相关片段。这一步决定了"参考书翻开到哪一页"。
第三步:生成(回答阶段)
把用户问题 + 检索到的文本块组装成提示词,交给大语言模型。模型必须基于给定资料作答,并在回答中标注引用来源(例如"根据《员工手册》第 3 章…")。
三个环节是串联的:入库质量决定能查到什么,检索质量决定查得准不准,生成质量决定答得顺不顺。任何一个环节薄弱都会拉低整体效果。
RAG 把大语言模型的生成能力与外部知识库的事实结合起来,让"不知道、旧、私有"三类知识也能被准确回答,是当前构建知识库问答系统的主流方案。理解它的三个环节(入库、检索、生成)和各自的短板,就能在设计自己的问答系统时找准优化方向。
继续学习
AGI(通用人工智能)是所有 AI 公司的终极目标。本文讲清 AGI 与当前 AI 的区别、发展阶段与争议。
C-Eval 是面向中文基础模型的评估套件,涵盖 52 个学科、13948 道题目,是国内大模型评测最常引用的中文基准。本文介绍它的构成、榜单与中文评测的要点。
微调让通用大模型适配特定业务。本文讲清微调原理、方法与 RAG 的取舍。
NotebookLM 是谷歌推出的 AI 笔记助手,能把你的私有文档变成可交互的知识库,还能一键生成对话式播客。本文从创建笔记本、上传资料、提问与生成音频概览四个步骤,带你快速上手。
RAG(检索增强生成)解决大模型知识过时与幻觉问题。本文讲清原理、流程和适用场景。
temperature(温度)与 top-p 是控制 AI 输出随机性与多样性的两个核心参数。本文用通俗例子讲清原理,并给出不同场景的调参建议。