Agent 开发必会基础知识:LLM 与 Agent Loop的演化
2026/7/25 3:43:33 网站建设 项目流程

昨天有位同学问我,学智能体开发要先掌握哪些基础知识。我说基础其实就 2 点:一是大模型(LLM)的本质,二是 Agent Loop,也就是智能体的最小循环。

至于 Function Calling、Context Engineering、Agent Runtime、harness 这些看着眼花缭乱的名词,全是围着这 2 个基础长出来的工程手法。真正干活的从来不是模型,是模型外面那圈程序。把这两点吃透,剩下的名词你一看就知道它在解决什么问题。

下面我尽量讲得通俗一点。

先把 LLM 当成一个无状态的推理接口

先把大模型身上的神秘感拿掉。

不管背后有多少参数、训练过程多复杂,从应用开发者的角度看,LLM 最终暴露出来的就是一个推理接口。厂商提供的 Web API 也好,本地部署的模型也好,最后都会封装成一个本地或内网 API。

所谓 OpenAI 协议、Anthropic 协议,本质上就是不同的接口规范,是各家工程师第一版发布时定好的上下行格式。

上行的核心参数就 3 个:表示身份的 key、提示词、模型名字。下行就是模型推理出来的结果。关键在于,这个接口是无状态的,每一次调用都跟上一次没有关系,模型只从这次提示词加上它自己储备的知识里推理,然后作答。

正因为无状态,实际业务里我们会在提示词里明确限制它,只准用 prompt 给的内容推理,避免它调用自身知识乱答。

要不然一个处理退款的机器人,你问它母婴问题它也答得头头是道,那就太出戏了。

所以这一层记住一句话就够了:模型基于单次输入推理,每一次调用都跟上一次完全无关。这层我们叫 LLM。

Agent = LLM + TOOLS + LOOP

一个无状态、只会吐文字的接口,本身碰不到外部世界。它查不了数据库,也调不了 API。想让它真的去做事,就得给它一个能跟外界打交道的办法。

这个办法就是 Function Calling,也叫 Tool Use。做法是在提示词里额外塞一段工具描述:

{ "tool": "query_database", "arguments": { "sql": "SELECT ..." }}

然后厂商在训练时就教会了模型:当它觉得需要某个工具时,下行里会用一个专用字段(比如tool_use)把这个意图表达出来。

Anthropic 官方文档描述的流程就是这么一圈:应用把工具定义发给模型,模型生成 tool_use 请求,客户端程序解析请求并执行工具,再把 tool_result 放回消息里交给模型继续处理。

写成代码就是一个最小循环:

messages = [user_message] # 用户输入问题# 最小循环while True: # 把用户问题 + 系统提示词 + 工具信息合并成上行提示词,拿到下行 response = call_llm(messages, tools) # 没有工具请求意图,直接返回 if response.is_final: return response.output # 有工具请求意图,由程序来执行工具 tool_result = execute_tool(response.tool_call) # 把工具调用和结果合并进消息,循环回去再发给模型 messages.append(response.tool_call) messages.append(tool_result)

如果看不太懂代码,换成打电话的场景就好懂了。

假设我们给模型打电话,问它北京天气怎么样,我们对着手机说的是:

北京的天气怎么样?

手机在把话发给模型之前,会先重组内容,把一个查天气的工具塞进对话里。模型实际收到的是:

你在回答问题时可用的工具列表:查询天气工具,输入城市名称即可。 用户输入的问题:北京的天气怎么样?

模型一看有工具可用,就用 tool_use 返回一个调用意图:调天气工具,输入是北京。手机拦截到这个意图,替它去执行,查到「北京天气晴」。然后手机把结果再拼进消息,重新发给模型,这时我们还在电话这头等着:

你在回答问题时可用的工具列表:查询天气工具,输入城市名称即可。 查询天气工具调用结果:输入:北京,输出:北京天气晴 用户输入的问题:北京的天气怎么样?

模型这回拿到了必要信息,回复「北京是晴天」。这一次手机没有拦截,我们就从电话里听到了答案。

整个过程里有一个容易被误解的点:不是模型调用了工具,而是模型生成了调用工具的意图,真正执行的仍然是我们的程序。

这时手机就成了一个 Agent,因为它能完成具体的查询任务,而它依赖的知识是我们主动喂进去的。如果我们没给查询工具,模型就只能说查不到;如果我们又不限定它只用输入内容作答,它就会自己编,这就是幻觉。

所以 Agent 开发的本质,要求模型「忘掉」/「结合」自己储备的知识,拼接上我们给的材料,最终借用它的推理能力来完成任务。而这一切输入,都靠上行里那个提示词字段来承载。

这套手法有个名字:上下文工程

回头看打电话这个场景,我们其实走了 2 次模型调用。第二次相比第一次,提示词里多拼进了工具信息和调用结果。发给模型的内容在中途被程序改写、重组了。

这个不断重组上下文喂给模型的手法,就叫 Context Engineering,上下文工程。承载它的载体,就是 Agent。

真实业务往往需要大量工具调用,一轮不够,所以必须写成循环。这就是 Agent Loop。现在主流智能体更完整的实现叫 Agent Runtime,无非是这个 Loop 外面又包了调度、记忆、错误重试这些工程能力。

不管一个智能体做得多复杂,本质都是围着这个 Loop 演化出来的,区别只是工程手法越堆越厚,而这一切跟模型本身没有关系。

一句话收尾

LLM 只能生成一次结果,Agent 能根据环境反馈连续行动。为了让这种连续行动更稳、少翻车,才又演化出了 harness 这类约束层。

所以你会发现,从 LLM 到 Agent 再到今天各种花哨的框架,模型一直没变,变的全是我们在它外面搭的那套工程,最终服务的目标就是最核心的那个循环。

这里给大家精心整理了一份全面的AI大模型学习资源包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享

👇👇扫码免费领取全部内容👇👇

1. 成长路线图&学习规划

要学习一门新的技术,作为新手一定要先学习成长路线图方向不对,努力白费

这里,我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的,我们精选了一系列深入探讨大模型技术的书籍和学习文档,它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础(书籍含电子版PDF)

3. 大模型视频教程

对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的大模型视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识

4. 2026行业报告

行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

5. 大模型项目实战

学以致用,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。

6. 大模型面试题

面试不仅是技术的较量,更需要充分的准备。

在你已经掌握了大模型技术之后,就需要开始准备面试,我们将提供精心整理的大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

7. 资料领取:全套内容免费抱走,学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取:

👇👇扫码免费领取全部内容👇👇

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询