从模型中心到智能体中心:AI应用开发的新范式与工程实践
2026/9/17 4:43:26 网站建设 项目流程

最近这一年多,我明显感觉到圈子里聊天的画风变了。去年大家都还在争论“开源模型和闭源模型谁更强”“谁家的Benchmark刷得更高”,今年大部分讨论都变成了“你这个智能体能处理多复杂的任务流程”“是怎么编排工具调用的”“跑的链路稳定性怎么样”。这种话题重心的迁移,不是某一个产品能带起来的,而是整个AI研究范式正在经历一轮底层切换。

这篇内容不打算写成一篇综述论文,我只想以一线从业者的视角,聊聊我观察到的“从模型中心到智能体中心”这个转向到底意味着什么,以及它对实际项目、技术选型和日常工作产生了哪些具体影响。

1. 参数竞赛正在退烧,智能体编排登上主桌

1.1 一个让我彻底改变思路的项目复盘

去年有段时间,我们团队在做一个面向企业内部的知识库问答系统。最开始的想法非常简单粗暴:模型不够聪明,那就换更大的模型。我们把底座从7B的模型一路换到13B,又试了量化部署的70B,甚至花钱调了商业大模型的API。事实证明,单点模型的变强确实能让回答的“单句质量”肉眼可见地提升,但问题出在用户真正使用的场景并不是“问一句答一句”,而是连续追问、信息比对、表格提取、跨文档汇总这一套复杂行为。

比如用户会问“帮我对比一下A部门上季度和B部门上季度在华东区的销售差异”,这种问题单靠大模型直接生成回答,效果很不稳定。模型可能会把数据算错,也可能在中间一步把字段搞混。后来我们尝试把任务拆解成多个步骤:先识别意图,再调用数据库查询,接着做结果后处理,最后交给模型生成结论。每一步都由模型参与决策,但这个“参与决策”不再是“你给我一个最终答案”,而是“你告诉我下一步该做什么”。整个系统跑起来之后,我才意识到,我们做的已经不是一个“更强的模型”,而是一个“更聪明的智能体”。

从那个项目之后,我再看到类似的需求,第一反应就不再是“我要用哪个模型”,而是“整个流程该怎么编排”。这也是智能体中心范式带给我最直接的一次思维冲击。

1.2 Scaling Law的光环褪色,工程红利开始显现

过去两年,行业对Scaling Law有一种近乎信仰的态度。参数量越大、训练数据越多、模型的涌现能力越强,仿佛只要把模型做大,所有问题都会迎刃而解。这种思维方式在模型中心时代确实成立,毕竟GPT系列就是靠这条路走出来的。但到了应用落地阶段,问题就变了:Scaling Law解决的是“模型的极限能力”,而真实业务需要的是“在有限算力、有限预算、有限延迟内可用的能力”。

一个很简单的对比:60B的模型做单轮对话很强,但如果让它处理一个需要调用五个API、中途还要根据结果调整策略的任务,它的输出稳定性反而不如一个13B模型外加一套精心设计的智能体框架。因为后者把“不确定性”分散到了每一步的工具调用和状态检查中,而不是把所有希望寄托在一次生成上。

所以现在的研究重心正在转向:模型怎么和工具更好配合?怎么让模型学会规划而不是只会生成?怎么把一次性的模型调用变成一个可以观察、可以中断、可以恢复的执行流?这些问题,都属于智能体中心范式里“工程红利”的范畴。

1.3 研究社区的“默认答案”正在重写

我以前读到的大部分AI论文,核心命题都是“我们设计了一个新模型架构,在某某Benchmark上提升了几个点”。现在越来越多的论文开始把视角放到“我们设计了一个新的Agent架构,在某某模拟环境中的任务完成率提升了多少”。甚至连“模型”这个词,在论文里的含义都变了——它不再只是Transformer堆出来的那几十层网络,而是“一个能够感知环境、作出决策、执行动作的自动智能体”的简称。

这种重写不是学术圈子在自嗨。去看看各个大厂发布的应用框架、各个开源社区的热门项目,智能体平台、智能体搭建工具、智能体开发教程,基本已经占到了AI内容流量的半壁江山。工具生态往哪里集中,研究者和工程师的注意力就在哪里集中,两者是互为因果的。

2. 拆解“智能体中心”:核心不是模型,而是闭环

2.1 模型中心的范式长什么样

模型中心模式下的AI系统,视觉上就像一个“黑盒子”。输入进、输出出,中间全靠模型一次前向传播。它的核心假设是“如果模型足够强,那么它就能直接从输入映射到正确输出”。这种范式框架下的工作内容也高度同质化:收集数据、清洗数据、微调模型、评测效果、迭代数据。

它有一个很大的好处——简单。技术栈清晰,评测指标明确,出了问题也好定位。但它也有一个致命短板:一旦任务的复杂程度超过了“单次推理”能够承受的范围,模型能力再强也无济于事。比如多步推理、需要外部信息验证的决策、需要记忆上下文的长周期任务,这些都不是一次前向传播能搞定的。

2.2 智能体中心的范式长什么样

智能体中心的范式把模型放回了一个更大的执行循环中。这个循环通常包含五个要素:

  • 感知:从用户输入或环境中获取当前状态
  • 规划:模型根据目标和状态拆解下一步行动
  • 行动:执行具体操作,可能是调用API、操作数据库、访问网页
  • 反馈:把行动结果返回给模型,让其判断是否达成目标
  • 循环:如果未达成,则重复规划与行动

在这个循环里,模型依然是核心组件,但它不再是“唯一的引擎”,而是扮演“决策大脑”的角色。系统层面的编排、状态管理、工具调用、异常恢复,这些原本在模型中心范式里不被讨论的东西,在智能体中心范式里成了真正决定成败的关键。

我用一个生活化的类比来解释:模型中心的AI像一位博学的顾问,你问什么它答什么,答得再好也只是一个“知识输出器”。智能体中心的AI则像一个替你跑腿办事的助理,它不仅要知道答案,还要知道上哪儿查资料、怎么填表格、中间被拒绝了怎么处理,最后才能把结果交到你手上。这两种形态对“智力”的考验完全不在一个维度。

2.3 长链路任务才是试金石

那么,什么任务才是智能体中心范式真正擅长的?答案是长链路任务。

短链路任务的特点是“一锤子买卖”,比如“把这段英文翻译成中文”“总结这篇新闻的要点”,这类任务模型中心范式做得足够好,硬套智能体反而多此一举。长链路任务则不同,它通常具备以下特征:

  • 需要多轮决策,每一轮的结果都会影响后续动作
  • 需要引用外部工具或数据源,不能只靠模型内部知识
  • 目标可能中途被修正,智能体需要根据反馈调整计划
  • 最终的成败由“整个流程是否跑通”来定义,而不是“单次回答是否漂亮”

以自动写代码为例。早期的代码生成模型只能做“你给一个函数注释,我生一个函数”,这就是短链路。现在流行的AI编程智能体则是“你给一个需求描述,我自己建文件、装依赖、跑测试、修报错,直到功能通过”,这就是典型的长链路。前者拼的是模型的单次代码生成质量,后者拼的是整个智能体系统的状态管理与错误恢复能力。

3. 从Coze到Dify再到专业框架:智能体技术栈的演进

3.1 平台层面的爆发式增长

我最早接触智能体开发,是从字节的Coze开始的。那时候的想法很简单:不用管底层模型怎么做决策,只要把节点拖拽连成流程图就行。Coze这类低代码平台的优势是上手极快,内置了大量插件、知识库管理和Prompt模板,适合产品经理或者想快速验证想法的同学使用。它的缺点也比较明显——自由度受限,复杂逻辑封装在平台内部,一旦出现问题不好排查,而且跨平台迁移成本很高。

后来接触了Dify,感觉它更偏向“应用层的基础设施”。Dify在数据集管理、工作流编排、模型接入这几个维度上做得更工程化,尤其是它把RAG(检索增强生成)的链路做成了开箱即用的模块,这让很多人做知识库问答应用的效率翻了好几倍。对于需要深度定制能力的中小团队,Dify这样的开源平台要比黑盒的Coze更可控。

再往后我看了一些更底层的智能体框架,它们不再提供“现成的应用”,而是提供一套“搭建应用的原件”:Agent类、工具注册机制、记忆模块、多智能体通信协议。典型的如LangChain、AutoGen、CrewAI,以及国内一些团队自研的通用Agent框架。

这几类工具不是替代关系,而是分层关系。我画过一个简单的选型表,大致如下:

层级代表适合场景技术门槛
低代码平台Coze快速验证、业务人员直接上手
开源应用平台Dify团队定制化开发知识库、客服、工单助手
专业框架LangChain、AutoGen、CrewAI核心Agent逻辑的自研与深度控制

3.2 选型必须回答的四个问题

框架选错了,后面返工的成本极高。我实战里总结了一个“四问原则”,每次决定用哪个层次的技术栈之前,先问自己四个问题:

第一问:业务是否需要多步工具调用?如果用户请求基本是单轮问答,直接调模型API就行,别为了“用上Agent”而上Agent。第二问:团队有没有足够的调试能力?低代码平台上手快,但出了问题能捞出来的日志有限,复杂的Agent行为定位起来非常痛苦。第三问:模型切换的灵活性重不重要?有些平台绑死了特定模型厂商,后期想换一个性价比更高的模型,可能要把整套工作流重新搭一遍。第四问:数据安全和私有化部署是否需要?很多企业内部数据根本不允许出内网,开源可私有化部署的平台几乎是唯一选择。

这四问没有标准答案,但它能帮你在“灵活”和“省事”之间找到一个不让自己后悔的平衡点。

3.3 一个可以直接照抄的最小智能体结构

我不太喜欢一上来就抛一个几百行的大项目,那样反而让人看不清核心脉络。分享一个我自己用来演示“智能体中心思维”的最小实现结构,语言不重要,逻辑骨架是可以直接迁移的:

class MinimalAgent: def __init__(self, llm, tools): self.llm = llm # 底层大模型 self.tools = tools # 可调用的工具集合 def run(self, user_request): messages = [{ "role": "user", "content": user_request }] # 循环上限,防止死循环 for step in range(10): response = self.llm.chat(messages) action = parse_action(response) if action == "finish": return response.final_answer if action == "call_tool": result = self.tools.call(action.tool_name, action.args) # 把工具结果追加回上下文 messages.append({"role": "tool", "content": result}) return "执行超时,请简化任务"

这个结构虽然简陋,但它把智能体中心范式的核心要素都体现出来了:模型输出被解析成动作、动作触发工具调用、工具结果重新进入上下文、循环次数受限防止失控。很多成熟的Agent框架,底层干的事情本质上就是这个循环的高度工程化版本。先把这段逻辑吃透,再去看任何框架的文档,都会感觉豁然开朗。

4. 智能体项目真正的坑:状态、验证与失控

4.1 状态管理:比模型选型更折磨人

我刚做智能体开发时,以为最难的部分是“怎么引导模型做出正确的规划决策”,后来才发现,真正让人崩溃的是“智能体执行到第三步时,怎么记住它在第一步得到的结果”。

模型本身是无状态的。每一次API调用,模型都不会记得之前发生了什么,所谓的“记忆”完全靠我们把历史对话塞回上下文窗口。这在短对话里不成问题,但在长链路任务里就成了灾难。任务步骤一多,上下文窗口可能被塞满,早期的关键信息可能被挤掉,模型在后面的决策中就会“失忆”。

我处理这个问题的方法有两个方向。第一个是“显式状态外置”,把中间结果写进一个结构化的状态对象里,比如正在处理的任务ID、已经完成的操作列表、下一步的待办清单,每个步骤都从状态对象里读取,而不是依赖上下文。第二个是“上下文压缩”,每一步只把与当前动作相关的信息追加进消息列表,对已经完成步骤的详细中间过程做摘要,而不是原封不动地全部保留。这两种方法可以配合使用,实践下来,能把Agent的有效任务长度提升好几倍。

4.2 工具调用结果的验证是最容易被省掉的一环

很多智能体失败,不是模型决策错了,而是工具调用之后的结果没有被验证,就直接扔给模型继续推理。举个最常见的例子:Agent调用了一个搜索工具,搜索结果可能是空的、超时的、或者返回了一堆广告噪音。如果这些原始结果被原封不动塞回上下文,模型极有可能基于错误信息给出一个看起来振振有词、实际上完全跑偏的结论。

正确的做法是在工具结果进入模型上下文之前加一道清洗和校验层。搜索没结果就明确标注“未检索到有效信息”,数据库查询报错就捕获异常并返回“查询失败,原因:XXX”,API超时就提示“该调用已超时,你还有一次重试机会”。这么做看起来只是给代码加了几个if-else写错了判空,但它在真实项目里的意义非常重大——它让模型不再被脏数据误导,也让整个Agent执行过程具备可观测性。

4.3 多智能体协作的死循环,谁碰谁知道

比单智能体更进阶一步的是多智能体协作。让多个Agent各司其职,比如一个负责理解需求,一个负责检索资料,一个负责生成内容,这个思路听起来很优雅,实际跑起来很容易变成“两个Agent互相踢皮球”。

我参与过一个项目,让一个“审查Agent”来检查另一个“写作Agent”的输出。结果写作Agent每修改一次,审查Agent都能挑出新问题,两个Agent就在循环里互相推诿了四十多分钟,直到token耗尽。后来我在两个Agent之间加了一个“仲裁者”角色,仲裁者的职责不是检查内容,而是判断“当前这个修改是否已经达到可交付标准”。加上这个仲裁者之后,循环次数下降了90%。

多智能体协作的关键不是“让Agent之间自由对话”,而是“给Agent之间的对话定义边界”。谁有最终决策权、消息最多流转几轮、什么情况下必须升级给人工处理,这些问题在设计阶段就要想清楚,否则上线之后一定会以最难堪的方式暴露出来。

4.4 可观测性:没有日志的Agent等于裸奔

传统后端开发讲究日志和监控,Agent开发在这件事上的重要性只高不低,但大多数人刚开始做的时候根本没意识到。原因很简单:传统代码的执行路径是确定的,出了问题看堆栈就能定位;而Agent的执行路径是模型动态生成的,每次跑的路径可能都不一样,问题出现时你甚至不知道它刚才调了哪个工具、基于什么信息做了决策。

我现在的做法是给Agent的每一步都打点记录:当前步骤的规划输出是什么、选择的工具是哪个、工具返回了什么结果、模型基于这个结果做了什么判断。这些日志不需要多复杂,只要是结构化的文本就行,但在调试的时候价值巨大。没有这套日志,你面对一个“偶发失败”的Agent,基本只能靠猜。有了它,你可以把某一次失败的完整决策链拉出来,用“链式复盘”的方式找到真正出问题的那一环。

5. 评测与可控性:智能体研究还没翻过的那座山

5.1 传统Benchmark为什么测不出真实效果

模型中心的评测体系已经非常成熟:跑一套公开Benchmark,算一下准确率、BLEU分数或人工评分,就能横向比较。但到了智能体中心这个阶段,评测这件事变得异常尴尬。

原因在于智能体的表现强依赖“环境”。同一个Agent,在一个工具接口返回格式规范的环境里可能表现优秀,换到另一个返回格式混乱、接口经常超时的环境里可能直接崩掉。这个差异根本不是Agent自身算法的问题,而是环境适配的问题。而传统Benchmark恰恰忽略了这个维度——它只测“模型在给定输入下能不能给出正确答案”,不测“智能体在动态环境中能不能完成目标”。

另一个尴尬点在于“过程 vs 结果”的权重。模型评测看重结果,答案对就是对、错就是错。智能体评测则需要同时关注过程,比如“它调用了多少次工具才得到结果”“有没有做无用功”“遇到失败时的重试策略是否合理”。这些过程指标很难用一把统一的尺子来量,因为它和具体业务目标强相关。对客服场景来说,快速结束会话可能就是最优;对科研场景来说,多探索几个思路反而可能更重要。

5.2 我当前在用的务实评测方法

既然没有完美的公开评测体系,我推荐采用“分层评测”的思路,至少覆盖三个层面:

第一层是“组件级”评测。单独测Agent里的每个工具调用是否正确、Prompt模板对不对、模型在给定上下文下能不能正确解析出动作。这一层可以复用很多传统评测方法,问题最小,修起来也最快。第二层是“任务级”评测。把Agent放到一个固定的模拟环境里,给它布置一批标准任务,统计成功率、平均步数、平均延迟、失败类型分布。这一层最接近真实用户体验,也是我投入精力最多的部分。第三层是“回归”评测。每次改动Prompt或工具定义之后,把过去跑过的历史任务集重新回放一遍,防止“修好了一个问题,带崩了三个场景”。

这套方法不先进,但非常实用。它不需要复杂的评测框架,几个脚本加一张统计表就能跑起来。它能让你在团队协作时对Agent的能力边界有一个明确的认知,而不是靠感觉拍脑袋。

5.3 可控性:先从“限制自由度”开始

很多人对智能体抱有幻想,希望它像人类一样“自由思考、随机应变”。但落到工程实践里,我恰恰建议逆向而行——尽可能限制Agent的自由度。

限制自由度的方式有很多:给模型提供“动作白名单”,只能从我预设的工具里选;给每一步决策加“结构约束”,要求输出必须是JSON格式且包含动作类型和参数;给整个执行流程加“步骤上限”,跑太多轮就强制结束。这些限制看似削掉了智能体的“智能感”,但换来的却是“结果可预期性”。

真实业务里,可预期性往往比智能更重要。用户宁可等一个确定能成功的流程走完,也不愿意看一个“很有想法但经常翻车”的智能体自由发挥。等到基础链路的稳定性打磨好了,再逐步放开限制,让模型在更宽松的空间里探索,才是更平滑的路径。

6. 我目前踩完坑后的技术判断

如果让我用一句话总结我现在对智能体中心概念的态度:模型能力决定天花板,但架构和工程决定地板的实际高度。大多数团队的真实瓶颈,不是模型不够强,而是围绕智能体的工程体系太脆弱。

我还想分享一个踩过很多次坑之后换来的选型心得。早期我做智能体项目,总喜欢一上来就选最灵活的Agent框架,把每一个环节都做成可插拔、可配置。结果项目做到一半,发现80%的配置项根本用不上,反而因为抽象层太多,调试时总要在框架源码里翻来翻去。后来我调整了策略:先用最简单的代码把完整链路跑通,再把反复出现的硬编码部分抽成配置。从“能跑”到“可配置”,让需求来驱动抽象,而不是让抽象来制造需求。这个思路不仅省了大量时间,也让最终的代码结构更贴合业务本身。

至于未来,我能看到的方向包括:Agent之间的标准化通信协议会逐步出现,不同团队开发的智能体有望像今天的微服务一样互相调用;基于长期记忆和持久化状态的管理机制会成为基础设施,而不是每个项目自己造轮子;评测框架会慢慢向“环境仿真”倾斜,让Agent在虚拟环境里经历更多真实世界的考验。这些方向现在都有零星的实践,只是还没有形成统一的行业标准。

现在的阶段,很像行业在“模型中心”的末班车上待得太久,终于有人开始发现,目的地其实在另一条轨道上。谁先把“智能体中心”的工程问题解决得更扎实,谁就能在下个阶段的竞赛里拿到更大的优势。这也是我写这篇内容最想传递给同行的一个信号:不再执着于把模型当成唯一的变量,学会设计和驾驭Agent这个“会使用模型的系统”,才是接下来更值得投入的能力方向。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询