RAG检索实战:从搭建到应用,手把手教你打造本地大模型搜索系统!
2026/7/22 18:24:45 网站建设 项目流程

1、RAG检索运行效果

2、RAG检索搭建开发流程图

3、RAG核心技术讲解

**3.1、**加载本地大模型权重文件,本项目采用千问GGUF 量化模型文件

llm = LlamaCpp(
model_path=MODEL_PATH,
temperature=0.4,
max_tokens=1024,
n_ctx=4096,
verbose=True,# 打开详细日志,看模型推理过程
n_gpu_layers=-1,
)

3.2、本地数据库写入****chroma

from langchain_chroma import Chroma

vectorstore = Chroma.from_texts(texts=texts,metadatas=metadatas,embedding=embedding_function,

persist_directory=CHROMA_DIR

)

vectorstore.persist()

向量数据库构建成功后,会在本地新建一个chroma.sqlite3数据库文件,数据存储在里面的embedding_fulltext_search_content中

3**.3、读取本地向量库chroma的内容**

vectorstore = Chroma(persist_directory=CHROMA_DIR,embedding_function=embedding_function)

3.4****构建langchain基础检索器

retriever = vectorstore.as_retriever(search_kwargs={“k”: 1})

这是一个基础的langchain检索器写法,search_kwargs={“k”: 1}取相似度最高的一段

retriever = vectorstore.as_retriever(search_kwargs={“k”: 1,“filter”: {“编号”: “GNS-xxxx-xx”}},

search_type=“mmr”

)

search_type 是 vectorstore.as_retriever() 的顶层参数,用来指定向量库检索的排序 / 筛选算法,控制召回文档的逻辑,LangChain 的 Chroma 仅支持三种固定取值:

1.similarity(默认,不写时就是这个)

2.mmr(Maximal Marginal Relevance 最大边际相关性)

3.similarity_score_threshold(相似度阈值过滤检索)

3.5****LangChain 管道(Runnable 链式语法 / LCEL 表达式)

rag_chain = ({“context”: retriever | format_docs, “question”: RunnablePassthrough()}

| prompt

| llm

| StrOutputParser())

3.6****embedding 在项目中调用方法

from langchain_community.embeddings import HuggingFaceEmbeddings

embedding_function = HuggingFaceEmbeddings(

model_name=“shibing624/text2vec-base-chinese”,

model_kwargs={‘device’: ‘cpu’},

encode_kwargs={‘normalize_embeddings’: True}

)

Embedding(嵌入)是一种将高维、离散或非结构化数据(如文本、图像、类别标签)映射到低维连续向量空间的技术

这些向量能捕捉原始数据的语义或特征信息,并使得相似的对象在向量空间中距离更近。

通俗比喻:给每个词语/物品发一张智能身份证,身份证号码(向量)隐含其特征。

通过模型(如Word2Vecf)将单词转换为向量:

有技术底子的人,正站在AI大模型开发的黄金入口

先问自己一个问题:

你写了这么多年代码,薪资是不是已经很久没动了?

面试的时候,“会Spring Boot”“会Vue”"会MySQL"已经变成了基本操作,没有人在乎了。大家都会的东西,就不值钱了。

但另一边,有人在疯狂涨薪
拉勾、BOSS直聘上,“AI应用开发”“大模型开发”"Agent开发"的岗位数量在过去一年翻了3倍,薪资中位数比同级别后端开发高出 40%-60%。

不是因为他们比你聪明,而是因为他们踩对了赛道。

你可能觉得:我又不是搞算法的,大模型跟我有什么关系?

这就是最大的误区。

AI大模型应用开发 ≠ 训练大模型
说清楚一点:训练大模型的是那几家大厂,但用大模型做应用的,是千千万万的普通企业和团队。

而这些团队需要的,不是PhD,而是——

能用大模型API搭出可用产品的应用开发者
能设计Agent工作流、调用工具链的Agent工程师
能把RAG、Function Calling、多轮对话落地到真实业务的AI全栈
这些活儿,有编程基础的你,完全能干。

你需要补的不是"算法基础",而是"AI开发的技术栈和工程思维"。

Agent开发,为什么是程序员最好的切入点?
因为Agent开发本质上就是"用自然语言编程"——而这恰恰需要你已有的工程能力:

你有代码功底 → 理解Function Calling、工具调用、API集成,比零基础快10倍
你有系统设计经验 → 设计多Agent协作架构、状态管理、错误处理,逻辑一脉相承
你懂工程化 → 部署、监控、性能优化,这些AI项目同样需要
你理解数据 → RAG系统的数据清洗、向量检索、效果调优,你的DB经验直接复用
说白了,你已有的能力是资产,不是沉没成本。差的只是"AI这一层"的认知和工具链。

学完之后,你值多少钱?
转型 从传统后端/前端转AI应用开发,打开薪资天花板,跳槽议价权拉满
升职 在现有团队主导AI项目落地,从"写代码的"变成"定方向的"
独立 用Agent开发能力做SaaS产品、接AI外包项目,技术变现多一条腿
不可替代 当AI能写CRUD了,你是那个"用AI写代码"的人,而不是"被AI替代"的人
这不是危言耸听。GitHub Copilot已经能写出70%的CRUD代码了,纯执行层面的程序员价值在快速缩水。但"能用AI构建AI应用"的人,目前严重不够用。

这门课会教你什么?
面向有编程基础的开发者,从AI大模型应用开发的工程实践出发:

✅ 大模型API调用与Prompt工程实战
✅ RAG系统搭建:从数据处理到向量检索全流程
✅ Agent开发:Function Calling、工具链、多步推理
✅ 多Agent协作与工作流编排
✅ 真实项目落地:从需求到部署的完整工程链路
不讲虚的,全是能直接用在项目里的东西。

🚀 AI大模型应用开发课程

有编程基础?这就是你的下一个赛道

“程序员最大的风险,不是技术过时,而是用旧技术赚新钱的心态。”

你可能还在想"再等等看"——但AI这个赛道,窗口期就这么长。

等大模型开发变成"标配技能"的时候,你就不是先行者了,而是追赶者。

你有技术底子,这是你最大的优势。别浪费它。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询