1、RAG检索运行效果
2、RAG检索搭建开发流程图
3、RAG核心技术讲解
**3.1、**加载本地大模型权重文件,本项目采用千问GGUF 量化模型文件
llm = LlamaCpp(
model_path=MODEL_PATH,
temperature=0.4,
max_tokens=1024,
n_ctx=4096,
verbose=True,# 打开详细日志,看模型推理过程
n_gpu_layers=-1,
)
3.2、本地数据库写入****chroma
from langchain_chroma import Chroma
vectorstore = Chroma.from_texts(texts=texts,metadatas=metadatas,embedding=embedding_function,
persist_directory=CHROMA_DIR
)
vectorstore.persist()
向量数据库构建成功后,会在本地新建一个chroma.sqlite3数据库文件,数据存储在里面的embedding_fulltext_search_content中
3**.3、读取本地向量库chroma的内容**
vectorstore = Chroma(persist_directory=CHROMA_DIR,embedding_function=embedding_function)
3.4****构建langchain基础检索器
retriever = vectorstore.as_retriever(search_kwargs={“k”: 1})
这是一个基础的langchain检索器写法,search_kwargs={“k”: 1}取相似度最高的一段
retriever = vectorstore.as_retriever(search_kwargs={“k”: 1,“filter”: {“编号”: “GNS-xxxx-xx”}},
search_type=“mmr”
)
search_type 是 vectorstore.as_retriever() 的顶层参数,用来指定向量库检索的排序 / 筛选算法,控制召回文档的逻辑,LangChain 的 Chroma 仅支持三种固定取值:
1.similarity(默认,不写时就是这个)
2.mmr(Maximal Marginal Relevance 最大边际相关性)
3.similarity_score_threshold(相似度阈值过滤检索)
3.5****LangChain 管道(Runnable 链式语法 / LCEL 表达式)
rag_chain = ({“context”: retriever | format_docs, “question”: RunnablePassthrough()}
| prompt
| llm
| StrOutputParser())
3.6****embedding 在项目中调用方法
from langchain_community.embeddings import HuggingFaceEmbeddings
embedding_function = HuggingFaceEmbeddings(
model_name=“shibing624/text2vec-base-chinese”,
model_kwargs={‘device’: ‘cpu’},
encode_kwargs={‘normalize_embeddings’: True}
)
Embedding(嵌入)是一种将高维、离散或非结构化数据(如文本、图像、类别标签)映射到低维连续向量空间的技术
这些向量能捕捉原始数据的语义或特征信息,并使得相似的对象在向量空间中距离更近。
通俗比喻:给每个词语/物品发一张智能身份证,身份证号码(向量)隐含其特征。
通过模型(如Word2Vecf)将单词转换为向量:
有技术底子的人,正站在AI大模型开发的黄金入口
先问自己一个问题:
你写了这么多年代码,薪资是不是已经很久没动了?
面试的时候,“会Spring Boot”“会Vue”"会MySQL"已经变成了基本操作,没有人在乎了。大家都会的东西,就不值钱了。
但另一边,有人在疯狂涨薪
拉勾、BOSS直聘上,“AI应用开发”“大模型开发”"Agent开发"的岗位数量在过去一年翻了3倍,薪资中位数比同级别后端开发高出 40%-60%。
不是因为他们比你聪明,而是因为他们踩对了赛道。
你可能觉得:我又不是搞算法的,大模型跟我有什么关系?
这就是最大的误区。
AI大模型应用开发 ≠ 训练大模型
说清楚一点:训练大模型的是那几家大厂,但用大模型做应用的,是千千万万的普通企业和团队。
而这些团队需要的,不是PhD,而是——
能用大模型API搭出可用产品的应用开发者
能设计Agent工作流、调用工具链的Agent工程师
能把RAG、Function Calling、多轮对话落地到真实业务的AI全栈
这些活儿,有编程基础的你,完全能干。
你需要补的不是"算法基础",而是"AI开发的技术栈和工程思维"。
Agent开发,为什么是程序员最好的切入点?
因为Agent开发本质上就是"用自然语言编程"——而这恰恰需要你已有的工程能力:
你有代码功底 → 理解Function Calling、工具调用、API集成,比零基础快10倍
你有系统设计经验 → 设计多Agent协作架构、状态管理、错误处理,逻辑一脉相承
你懂工程化 → 部署、监控、性能优化,这些AI项目同样需要
你理解数据 → RAG系统的数据清洗、向量检索、效果调优,你的DB经验直接复用
说白了,你已有的能力是资产,不是沉没成本。差的只是"AI这一层"的认知和工具链。
学完之后,你值多少钱?
转型 从传统后端/前端转AI应用开发,打开薪资天花板,跳槽议价权拉满
升职 在现有团队主导AI项目落地,从"写代码的"变成"定方向的"
独立 用Agent开发能力做SaaS产品、接AI外包项目,技术变现多一条腿
不可替代 当AI能写CRUD了,你是那个"用AI写代码"的人,而不是"被AI替代"的人
这不是危言耸听。GitHub Copilot已经能写出70%的CRUD代码了,纯执行层面的程序员价值在快速缩水。但"能用AI构建AI应用"的人,目前严重不够用。
这门课会教你什么?
面向有编程基础的开发者,从AI大模型应用开发的工程实践出发:
✅ 大模型API调用与Prompt工程实战
✅ RAG系统搭建:从数据处理到向量检索全流程
✅ Agent开发:Function Calling、工具链、多步推理
✅ 多Agent协作与工作流编排
✅ 真实项目落地:从需求到部署的完整工程链路
不讲虚的,全是能直接用在项目里的东西。
🚀 AI大模型应用开发课程
有编程基础?这就是你的下一个赛道
“程序员最大的风险,不是技术过时,而是用旧技术赚新钱的心态。”
你可能还在想"再等等看"——但AI这个赛道,窗口期就这么长。
等大模型开发变成"标配技能"的时候,你就不是先行者了,而是追赶者。
你有技术底子,这是你最大的优势。别浪费它。