本文介绍了RAG技术的概念和原理,通过Dify平台展示了如何构建知识库、向文档进行切分和向量化,并详细讲解了在Dify中如何设置检索方式及构建索引。文章还以英雄联盟游戏助手为例,阐述了如何让智能体利用知识库进行回答。通过本文,读者可以学习到RAG技术的基本流程和应用,为后续深入学习大模型应用打下基础。
一、RAG 是什么?为什么需要它?
先看一个翻车现场
用户问游戏助手:“介绍一下 LOL 中《流光镜影》这个英雄的技能。”
普通大模型一本正经地回答:“在《英雄联盟》当前版本(截至 2025 年 12 月)中,并没有名为《流光镜影》的英雄。”
模型说得斩钉截铁,但用户手里明明就有这个英雄——问题出在哪?出在大模型的知识是"印死"在它脑子里的,训练数据截止到某个时间点,之后新出的英雄、新出的版本,它一概不知道。知识过时,回答就没法用,Bot 的价值大打折扣。
RAG 就是解药
RAG(Retrieval-Augmented Generation,检索增强生成),是一种结合知识检索和语言生成的技术,主要用来解决大模型的"幻觉"问题——也就是模型不懂装懂、一本正经胡说八道的毛病。
它的思路不复杂,一句话就能说清:
回答问题之前,先去资料库里把相关的资料翻出来,把资料和问题一起塞给大模型,让它"照着资料答题"。
就像开卷考试:不开卷,学生只能靠背过的旧知识瞎编;开了卷,翻到对应的那一页再作答,答案自然靠谱。RAG 就是给大模型发了一套"可以随时翻的复习资料",而且这套资料你能随时更新——新英雄出了就把新攻略放进去,模型立刻就"会"了。
三个常见问题,一次答清
- 传统 LLM 的缺陷?
—— 消息滞后,训练完就定型了,拿不到最新的知识。
- RAG 的原理?
—— 先拿问题去知识库检索相关内容,再把"问题 + 检索到的内容"一起送进大模型生成回答。
- RAG 解决什么问题?
—— 大模型幻觉问题(含知识过时导致的胡编乱造)。
二、RAG 怎么搭:知识库构建三部曲
RAG 的地基是知识库。搭知识库主要有三步:文档准备 → 文档切分 → 文档向量化。
第 1 步:文档准备
把要喂给模型的知识整理成文件。Dify 支持的类型:
| 类型 | 支持格式 | 适合放什么 | LOL 案例里放了什么 |
|---|---|---|---|
| 文档 | PDF、Word、TXT | 攻略文章、教程文档 | 英雄攻略 PDF |
| 表格 | Excel、CSV | 结构化数据、统计信息 | 英雄属性表 |
上传前建议做点预处理:清掉无关内容(广告、水印)、按主题分类整理、文件命名规范(名字里带上关键信息,方便后续维护)。
第 2 步:文档切片
为什么要切片?两个原因:一是大模型的上下文长度有限,一次吞不下整本文档;二是切得细,检索才准、才快——找答案时只需要翻出相关的那么几段,而不是把整本书都塞进去。
常见的切分方式有三种:
- 按字符数切
:固定长度,比如每 300 字一段;
- 按符号切
:按句号、换行符、感叹号等天然边界切;
- 按语义切
:识别主题变化点,智能切分。
实际操作中最常用的是符号 + 字符长度混合切分,每段控制在 200~500 字。这个长度有讲究:
- 切得太小 → 每段上下文不完整,检索出来的内容残缺,不准;
- 切得太大 → 一段里混进太多无关信息,干扰模型判断。
一个实用小技巧:分段最大长度参考你文档里实际最长的那一段。比如全文最长的段落是 275 字,那最大长度设 300 左右就比较合适,不容易把一段完整的内容拦腰切断。
在 Dify 里,这些设置都集中在"分段设置"这一个面板里:分段标识符(默认按空行/n/n切)、分段最大长度、分段重叠长度(相邻两段重复一部分内容,防止句子被切断后丢失上下文)、文本预处理规则(替换连续空格换行、可选删掉 URL 和邮箱),下面还有"父子分段"等进阶模式:
"按最长段落定长度"这个技巧,实际操作时就是照着右侧预览改数字——下图这个例子里,文档最长的一段 275 字,所以最大长度设成了 300:
另外 Dify 里还有个 Q&A 分段选项:让大模型自己读文档,自动把内容改写成"一问一答"式的切片。适合 FAQ 类的知识,检索命中率高。开启后预览效果如下,每个切片都自动变成了"Q:…… / A:……"的问答对:
第 3 步:文档向量化
向量化听着玄乎,其实好理解:把每段文字变成一串数字(向量),让"意思相近"变成"数字上相近",这样机器就能算出两段文字有多相似了。
举个例子:
- 问题:“盲僧 Q 技能” → [0.8, 0.6, …]
- 文档 1:“盲僧出装” → [0.7, 0.5, …](意思相近,数字也相近)
- 文档 2:“烹饪技巧” → [0.1, 0.8, …](八竿子打不着,数字差得远)
有了向量,用户一提问,系统就能快速从几千几万个切片里找出语义最接近的那几段。向量化解决三件事:语义理解、相似度计算、快速检索。
三、在 Dify 里动手:建知识库的 6 步
上面是原理,落到 Dify 里就是 6 步操作:
Step 1 创建知识库 → Step 2 上传文件 → Step 3 设置分段 → Step 4 构建索引(向量化) → Step 5 检索设置 → Step 6 预览结果- 创建知识库
:进入 Dify,选"知识库"→ 创建;
- 选择数据源
:上传原始文件(攻略 PDF、属性表等);
- 文本分段
:选分段方式(通用分段还是 Q&A 分段)、设分段最大长度;
- 构建索引
:选索引方式,系统把切好的段落做向量化。索引方式有两档: - 高质量(推荐):调用 Embedding 嵌入模型处理文档,检索更精确,能帮 LLM 生成高质量答案; - 经济:每个切片只抽 10 个关键词建索引,不消耗任何 token,但检索准确性打折扣; - ⚠️ 注意:用高质量模式建完索引后,没法再切换回经济模式,选之前想清楚。
- 检索设置
:这一步有三种方式,值得单独说清楚—— - 向量检索:把你的问题也变成向量,计算它和每个切片的"语义相似度",找出意思最接近的段落。你问"怎么玩盲僧",它能找到"李青打野思路"这种没出现"玩"字但意思相关的段落; - 全文检索:按关键词匹配,把文档里所有词汇建索引,你查什么词就返回包含这个词的段落。它不做语义理解,但关键词命中时很精准; - 混合检索:两种一起用,结果做个融合排序,兼顾"懂意思"和"对得上词",一般推荐这个。
界面上还有几个影响检索质量的参数:Top K(最多捞回几段,默认 3)、Score 阈值(相似度低于这个分数的直接丢弃,默认 0.5),以及可选的 Rerank 重排模型(把检索结果再精排一遍,进一步提升命中质量)。
6. 查看结果:预览文本处理效果,检查切分是否合理,没问题就保存。
四、RAG 应用:让 Agent 用上知识库
知识库建好了,最后一步是接给智能体用。以 LOL 游戏助手为例,4 步:
Step 1 创建空白应用 → Step 2 编写提示词 → Step 3 添加知识库 → Step 4 调试验证- 创建空白应用
:在 Dify 里新建一个 Agent 智能体;
- 编写提示词
:明确角色(“你是 LOL 资深游戏助手”)→ 说明功能(“负责解答英雄技能、出装、攻略问题”)→ 规范回复格式;
- 添加知识库
:在编排模块里找到"知识库"→ 点击"添加知识库",把建好的攻略库挂上;
- 结果验证
:进调试页面,输入"流光镜影的技能有哪些",看它能不能基于知识库答出来。
两个实用提示:
- 一个 Agent 可以关联多个知识库
,比如攻略库一个、版本更新公告一个;
- 多个知识库之间可以设置优先级,控制检索时先查哪个。
完整链路串一遍
从上传文件到得到回答,整个 RAG 的工作过程是:
上传文件 → 文档切分 → 文档向量化 → 存入知识库---(用户提问时)---问题检索知识库 → 拿到相关上下文 → 问题+上下文融合送入 LLM → 得到回答(用户提问时)的左边路径是你"建库"时走的路,(用户提问时)的右边路线是用户每次提问时走的路。两头在"检索"这一步接上——这就是 RAG 的全部。
本章要点回顾
- RAG 知识库构建的主要流程?
—— 文档准备 → 文档切分 → 文档向量化。
- 文档为什么要切片?
—— 适应大模型的上下文长度限制,同时提升检索的精确度和效率。
- 文档为什么要向量化?
—— 把文字变成数字,才能计算问题与文档的相似性,实现按语义快速检索。
- 检索设置怎么选?
—— 向量检索懂语义、全文检索对关键词、混合检索两者兼顾(一般推荐)。
大模型的知识又多又杂,到底怎么学?
做这行久了,被问最多的问题就一个:大模型的知识又多又杂,我到底先学啥?翻了一堆资料,看啥都像重点,结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍,零基础、应届生、转行的都适用。跟着走,至少方向不乱、不瞎忙,学完拿得出手。
第一阶段(10天):初阶应用
这一阶段就一个目标:把大模型真正"玩明白",不是只会聊天那种,而是能调教它、能用代码把大模型和业务接起来。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
这阶段正式进实战,目标很实在:做出两个能拿出手的东西——一个私有知识库,一个 agent 对话机器人。
为什么要做 RAG
搭建一个简单的 ChatPDF
检索的基础概念
什么是向量表示(Embeddings)
向量数据库与向量检索
基于向量检索的 RAG
搭建 RAG 系统的扩展知识
混合检索与 RAG-Fusion 简介
向量模型本地部署
…
走完这 30 天,Python 或 JavaScript 背景的基本能独立做一套 RAG 应用,简历上也敢写"大模型应用开发"了。
第三阶段(约20天):动手微调
学到这,你已经开始 “造” 模型了 —— 通过微调,搞出垂直领域的专用小模型。
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗?
想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!
第四阶段(20天):商业闭环,部署落地
技术学完,落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
想要入坑大模型的朋友,给大家准备了一份2026 年最新 AI 大模型全套学习资料:
1、大模型系统化学习路线
2、大模型学习视频教程
3、大模型学习书籍&电子文档
4、AI大模型最新行业报告
5、大模型项目实战&配套源码
6、2026大模型大厂面试真题
7、为什么要学习大模型?
我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着AI技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。
8、适合谁学?
- 传统后端 / Java / 前端开发,想转型 AI 应用
- 大学生、应届生,想拿更好的 offer
- 产品经理、运营,想武装职业竞争力
- 技术负责人,想给团队落地提效
学习是反人性的,但回报是真金白银。技术会更新,赛道会切换,但只要你先动手,机会就永远站在你这边。
9、这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!
好了,就写到这。路线是死的,人是活的,卡住了随时来问我。觉得有用就点个收藏,别让它进收藏夹吃灰——动起来比啥都强。