1. 五层解剖图:我是怎么从一千多个项目里抽出来的
1.1 先交代我这套观察方法
先说清楚,这篇文章不是一个理论推演,而是一次扎扎实实的"翻仓库"记录。从去年初开始,我给自己定了一个任务:每周固定把各大开源社区里新冒出来的 Agent 项目过一遍,看架构、看代码、看 issue、看 star 增速,然后按技术特征打标签。到现在攒了一千多个项目的样本,横跨聊天机器人、代码辅助、文档处理、自动化流程、数据分析、运维巡检这些常见方向。
看得多了,一个感觉越来越强烈:真正做出新东西的项目,少得可怜。绝大多数项目拆开外壳看骨架,翻来覆去就那么几套东西。不是模型接入换个 SDK,就是编排循环换个写法,再不然就是工具调用从 JSON Schema 换成了 XML 描述。骨架没变,只是换了层皮。所以我后来干脆做了一张解剖图,把所有项目按技术实现的核心职责分层,结果发现一件事——90% 的项目,落在这张图的五层里打转,真正能穿透到业务价值层的,寥寥无几。
这篇文章就是这张解剖图的完整说明。我会把每一层里大家在卷什么、为什么卷不出差异、以及少数跳出五层的项目到底做对了什么,全部摊开来讲。适合正准备入场做 Agent 方向的产品经理、独立开发者、技术负责人,以及那些已经在做 Agent 项目但总觉得在重复造轮子的人。
1.2 五层结构的定义与边界
先说这五层是哪五层,边界在哪,避免后面讨论的时候概念飘来飘去。
| 层级 | 核心职责 | 常见开源形态 | 同质化程度 |
|---|---|---|---|
| L1 模型接入层 | 统一封装大模型 API,做路由、容灾、Key 管理 | 模型网关、SDK、多模型适配器 | 极高 |
| L2 编排控制层 | 决定 Agent 怎么思考、调用什么、何时终止 | Agent 框架、Workflow 引擎、状态机 | 极高 |
| L3 工具调用层 | 让模型能调用外部函数、API、脚本 | Function Calling 封装、工具注册中心 | 高 |
| L4 记忆与状态层 | 管理对话上下文、长期记忆、知识检索 | 记忆模块、向量库接入、缓存组件 | 中等 |
| L5 交互呈现层 | 提供聊天界面、流式输出、会话管理 | Chat UI、SDK、部署模板 | 极高 |
这里有个容易混淆的点需要先澄清:我讲的是技术实现的五层,不是产品形态的五层。一个 Agent 产品无论做得多炫,落到工程实现上,必然由这几层拼装而成。Chatbot 是 L5 的壳加上 L1 的模型接入;AutoGPT 类项目是 L2 编排加上 L3 工具;RAG 问答机器人是 L4 记忆检索加上 L1 模型。这样分层之后,"90% 的项目在五层里打转"这句话就有了具体的含义:大部分项目做的事情,本质上是这五层之间的排列组合,而不是其中某一层的突破。
五层里还有一个关键区别:前三层是"距离模型更近"的底层基础设施,后两层是"距离用户更近"的场景承载。越靠近模型,通用性越强,但也意味着你做的任何一个改进,别人用同一个开源组件三天就能追上。越靠近用户,定制性越强,可壁垒往往不在代码里,而在你的场景理解里。这个差异,后面分析每一层时会反复用到。
1.3 一个反直觉现象:越热门的项目越"撞脸"
很多人以为,开源社区里 star 最多的项目,技术一定最独特。我这两个月重点统计了 300 个高增长 Agent 项目之后,得出的结论恰恰相反:热度和同质化程度成正比。越是冲上趋势榜的项目,越容易长得像一个模子刻出来的。
举几个最常见的"撞脸"模式。第一类是"工具箱式 Agent":一个 Chat 界面,左边挂了一排工具,模型根据用户问题决定调用哪个。这类项目占了大概四成。第二类是"自动化流程式 Agent":预设一个多步骤的 Plan,让模型一步步执行,每一步检查结果,这类占三成。第三类是"角色扮演式 Agent":给模型预设一个 Persona,配上若干工具,本质还是第一类的变体。
为什么热门的反而更雷同?因为开发者的注意力是被平台推荐机制塑造的。今天哪个方向拿到流量,明天就有一百个模仿项目出来。模仿者为了快速上线,必然选择最成熟的组件拼装,而最成熟的组件恰恰是那五层里被反复打磨过的通用件。于是大家越模仿越趋同,越趋同越不敢跳出舒适区。真正冷门但是结构独特的项目,反而因为"看不懂"或者"没有对标"而很难获得初始流量。
这就是我做这个解剖专栏的初衷:先把这五层描绘清楚,让后来者知道哪里已经挤满了人,哪里还是空地。挤满人的地方不是不能去,但你得知道自己是去送人头还是去抄底。
2. 逐层拆开看:每一层里到底在卷什么
2.1 模型接入层:封装大模型接口的"标准水电工程"
L1 模型接入层,是所有 Agent 项目的地基。无论你的 Agent 多智能,最终都要调用一个大模型来干活。这层做的事情听起来很枯燥:把不同厂商的模型 API 封装成统一接口,做 Key 管理、请求路由、失败重试、成本统计。但恰恰是这么枯燥的一层,在开源社区里养活了一大批项目。
这层最内卷的是"统一接口"。今天你接一个模型厂商的 SDK,明天可能就要换另一家,甚至要在多个模型之间做负载均衡。于是出现了一堆模型网关类项目,号称"一套接口接入所有主流模型"。这类项目表面上看解决的是技术问题,本质上是把模型厂商之间的竞争风险转移给了用户——万一哪家模型不行了,你可以无缝切换。听起来很美好,但实际维护成本极高:模型接口三个月一小变、半年一大变,每变一次网关就要跟着发版本。
我在实际使用中发现,这一层里真正值得关注的不是"接口统一"本身,而是路由策略和成本控制。举个例子:一个 Agent 系统里,简单问题用轻量模型,复杂推理用重型模型,这是很多团队喊了很久的优化方向。但真正做到位的不多,原因就在于路由判断的准确性很难保证。你怎么判断"这个问题简单还是复杂"?靠关键词不靠谱,靠小模型预分类会增加延迟,靠用户手动选又不友好。我见过某个技术团队的做法比较聪明:先用轻量模型跑一遍,如果输出的置信度低于阈值,再交给重型模型重跑。这种"级联路由"的思路,比单纯追求接口统一有价值得多。
还有一个容易被忽略的坑:Token 成本的可观测性。很多开源项目把模型接入做得很顺滑,但根本没有记录每个用户、每个会话花了多少 Token。等到月底账单出来才发现,成本失控了。如果你要在 L1 层做投入,与其去封装第十个模型厂商的接口,不如把成本度量、配额管理、缓存命中率这些"省钱工程"做扎实。
2.2 编排控制层:Plan-Act-Reflect,换了个名字还是老朋友
L2 编排控制层是"Agent"这个词的灵魂所在。一个系统被叫 Agent 而不是简单的聊天机器人,核心区别就在于它有一个循环:根据当前状态决定下一步动作,执行动作后观察结果,再决定下一步。这一层就是实现这个循环的地方。
我观察到的真实情况是,开源社区里 90% 的编排控制逻辑只有三种套路。第一种是 ReAct 式:Reason(推理)加 Act(行动)交替进行,模型一边思考一边调用工具。第二种是 Plan-Execute 式:先让模型生成一个完整计划,然后按计划逐步执行,执行完再回顾修正。第三种是状态机式:开发者预先定义清晰的步骤和状态,模型只能在预设的跳转规则里选择路径。
很多项目把这些换了个名字就当成创新。今天叫"Agent Loop",明天叫"Auto Chain",后天叫"Orchestrator",打开代码一看,核心就是 While 循环加模型调用,循环结束条件无非是"达到最大轮数"或者"模型判断任务完成"。如果你正在做这样的项目,不用灰心,踩在已有范式上能做的东西确实很多。但如果你以为这是创新,那就危险了。
这一层最容易出问题的点,不是循环逻辑本身,而是循环的终止条件设计。新手做 Agent 最容易遇到的一个现象:模型陷入了死循环,不停地调用工具、不停地得到同样的结果、不停地重新规划。我试过几十个开源框架,大部分遇到这种状况就卡死了,直到撞上最大轮数限制才被迫退出。真正成熟的做法,是在编排层引入一些"元规则":比如检测到连续 N 次动作结果没有变化时,主动选择切换策略;或者在规划的每一步记录依赖关系,发现重复推理时截断分支。
这层还有个被低估的参数:并发与超时控制。Agent 的每一步可能耗时几秒到几十秒,如果产品里同时有几百个 Agent 在跑,编排层就成了性能瓶颈。大多数开源项目根本没考虑这个场景——它们的编排层是单线程玩具,演示足够,生产必崩。你要是能在这层解决"大量 Agent 并行运行时的资源调度与优先级管理"这个问题,含金量比再写一个循环高十倍。
2.3 工具调用层:协议很多,本质都是让模型学会用扳手
L3 工具调用层解决的是"让模型和外部世界交互"的问题。模型本身只会生成文本,它要查天气、订机票、改文档,就得通过工具。这层的技术实现并不复杂:把工具的输入输出格式描述清楚(通常是 JSON Schema),把描述塞给模型,模型输出一个结构化的调用意图,系统解析后执行真实函数,把结果返回给模型。
这层的"卷"体现在协议定义上。今天有个团队推出一种新的工具描述规范,明天就有另一个团队推出另一种。有的用纯文本描述,有的用 JSON Schema,有的走 MCP(Model Context Protocol)这类标准化中间层。我在解剖这些项目的时候发现一件很有意思的事:无论协议怎么变,模型理解工具的底层机制没变——都是把工具说明拼到上下文里,靠模型的语言理解能力去匹配意图。
所以这层的同质化是必然的:只要模型本身的理解能力不变,工具协议的优化空间就有限。真正拉开差距的,不在协议层,而在工具生态的丰富度。一个只有五个工具的 Agent 和一个接了五百个工具的 Agent,哪怕它们用的是完全相同的工具调用机制,后者的实际价值也大得多。
工具层的硬骨头有几个。一个是对动态参数的校验。用户输入的自然语言被模型转化成结构化参数时,经常会出现幻觉参数——模型编造了一个不存在的城市名,或者把金额的单位搞错。成熟的工具调用层必须有严格的参数校验和归一化环节,否则工具越多,出错概率越大。另一个是工具的鉴权与权限隔离。当一个 Agent 能访问用户的日历、邮箱、网盘时,你怎么保证它不会越权操作?很多开源项目直接用一个全局 Token 搞定所有工具调用,这在真实场景里是巨大的安全隐患。
关于工具层,我最想给的建议是:别花太多时间发明新协议,把时间花在"让工具调用可测试、可回滚、可审计"上。工具调用出了问题,你能否快速定位是哪一步、哪个参数、哪个输入导致的?绝大多数项目做不到。这个问题解决了,你的项目在可维护性上就能甩开一大票同行。
2.4 记忆与状态层:最薄的一层,也是最肥的一块地
L4 记忆与状态层,是我觉得五层里最被低估的一层。打开一个开源 Agent 项目看代码,你会发现大部分项目的记忆模块薄得可怜:用一个数组存最近十几轮的对话,超出就丢,或者无脑把所有历史塞进去,塞到上下文窗口爆炸。一个能正常工作的 Agent,和一个能记住用户偏好、能在长时间任务中不丢上下文的 Agent,差距就在这里。
为什么这层被忽视?因为记忆功能太容易被"看似实现"了。开箱即用的向量数据库、简单的前缀拼接、Redis 里存个 session——看起来都像记忆,实际上它们解决的是不同层面的问题。短期记忆解决"上下文不丢",长期记忆解决"跨会话复用",工作记忆解决"当前任务的状态追踪"。这三个概念经常被混为一谈,我在解剖的项目里,能把这三者分清并且分别设计方案的,不超过 5%。
长期记忆尤其难做。用户昨天和 Agent 讨论的一个项目背景,今天再开新对话时,Agent 是否还记得?如果要记,应该记原始文本还是摘要?摘要会丢失细节,原始文本会占用大量空间。检索的时候,是按语义相似度找,还是按时间衰减找,还是结合用户当前意图找?这些问题没有标准答案,每个都没解决得特别好,所以反而意味着巨大的机会。
另外一个很有意思但很少被认真对待的问题:Agent 的"遗忘"机制。人的记忆有遗忘曲线,不是所有信息都值得长期保存。Agent 的记忆模块如果只增不减,时间长了会充满过时信息,检索时还会干扰判断。设计一个合理的记忆衰减策略,比单纯堆向量库复杂得多,但几乎没有开源项目在做。
状态层同样重要但同样薄弱。一个多步骤的 Agent 任务,执行到一半崩溃了,怎么恢复?断点续跑有没有实现?任务的状态是保存在内存里还是持久化存储里?进程重启之后 Agent 还能不能继续未完成的对话?我在生产环境里遇到过太多"Agent 跑一半丢了上下文"的事故了。能把状态持久化和任务恢复做扎实的项目,在这五层里已经是稀缺品。
2.5 交互呈现层:套壳 ChatUI 的诱惑与天花板
L5 交互呈现层,离用户最近,也是"套壳项目"的重灾区。所谓套壳,就是用一个开箱即用的 Chat UI,加上一个模型 API,封装出一条聊天对话框,然后就宣传自己是"XX 领域智能助手"。这一层在开源社区里为什么挤了那么多人?因为门槛最低——前端组件现成的,模型接口现成的,拼起来就可以发版。
但我要给这层说句公道话:交互呈现层的价值,不在于实现聊天框本身,而在于它和业务场景的结合深度。一个给客服用的 Agent,交互界面不是聊天框那么简单,它还需要工单弹窗、知识库编辑面板、人工转接按钮、数据看板;一个给数据分析师用的 Agent,需要图表渲染、SQL 编辑器、结果对比视图。这些定制化的交互,才是真正有壁垒的部分。
Chat UI 模板化严重到什么程度?我去 GitHub 上搜聊天组件库,排在前面那几个项目的代码结构几乎一模一样:左侧是会话列表,中间是消息流,底部是输入框,右上角是模型切换。把 Logo 换一下、配色调一下,就是一个"新产品"。但正因为这样,反而给了后来者一个机会:你只要在交互层做出真正贴合行业习惯的设计,就能在体验上建立明显的差异。
这层还有一个技术点值得注意——流式输出的工程质量。流式输出(Streaming)看起来只是把模型生成的文本分块实时推给前端,但真要做好很难。断线重连怎么办?生成的 Token 怎么保证渲染顺序?后端用了多个模型并行生成时,如何合并流?我在生产环境遇到过做流式输出时前端界面卡死的惨案,原因就是没有做背压控制,一次性涌入大量 Token 把浏览器渲染线程堵住了。这层虽然同质化严重,但细节优化的空间一直都在,只是很多人不愿意沉下心去抠。
3. 真正绕开五层的项目:我从几十个高星项目里看到的共性
3.1 用场景数据反向定义 Agent 结构
聊完五层的现状,接下来要回答的问题是:那些摆脱了"五层打转"命运的项目,到底做对了什么?我翻了几十个高星但"结构不像常规 Agent"的项目,发现第一个共性极其明显——它们不是从框架出发,而是从数据出发。
举个例子,有个做售后工单处理的 Agent 项目,它的核心亮点不是在编排层搞了什么新花样,而是花了大半年时间把一个企业内部的上万条历史工单清洗成了结构化数据:问题类型、优先级、处理路径、解决方案、耗时统计。Agent 的每一步判断都建立在这些真实数据上。同样的问题,普通项目靠模型常识回答,它靠真实案例回答,效果自然不一样。
这个思路的精髓在于:模型负责泛化,数据负责约束。框架决定了一个 Agent"能做什么",数据决定了一个 Agent"在该场景下做什么是对的"。大部分开源项目把精力放在前者,所以同质化;少数项目把精力放在后者,所以看起来"智能"得很特别。
还有一个做简历筛选的 Agent 项目也很典型。它没有用什么花哨的 Multi-Agent 架构,只是把招聘方的岗位 JD 历史数据、候选人的简历库、面试官的反馈记录打通成了一套决策上下文,让模型按照这家公司特有的评估维度来做初筛。这个系统换到另一家公司就失效了,因为它绑定了特定公司的数据模式和判断偏好——但恰恰是这个"换一家就失效"的特性,构成了它真正的护城河。
3.2 从 Demo 演示到业务闭环,差距在链路而不是模型
第二个共性是,这些项目都跑通了业务闭环,而不只是技术演示。Demo 的定义是:用户提一个问题,Agent 给出一个漂亮回答。业务闭环的定义是:用户提出需求,Agent 调动多个系统完成一系列操作,并且每一步都有确认、有记录、有异常处理,最终产出一个可以交付的结果。
我见过最典型的一个案例是采购流程 Agent。它不只是"推荐一个供应商",而是从需求确认开始,自动生成询价单、发往合作供应商系统、回收报价、按照预设的价格规则比价、生成采购建议单、推送给审批人。整个过程涉及和五个外部系统的对接,每一步都可能失败,比如供应商接口超时、格式不匹配、价格异常高。把这条链路跑通并稳定运行,需要做的工程工作远远超过"调用一个大模型工具"——但它带来的价值也远远超过一个聊天机器人。
为什么大多数人做不到闭环?因为闭环要求的不是技术深度,而是跨系统集成的耐心。你得去研究被对接系统的 API 文档,得处理各种脏数据,得设计补偿机制。这些活不性感、不前沿、费时费力,但恰恰是这些东西让项目在一个具体场景里"站得住"。很多开源项目卡在 Demo 阶段,不是模型不够聪明,而是没有这种"钉钉子"的耐心。
3.3 把评测和观测做成基础设施
第三个共性让我特别有感触:跳出五层的项目,几乎都有一个认真设计的评测系统。普通的 Agent 项目,判断效果好坏靠人肉试几个问题;优秀的项目,会积累一个覆盖几百个典型用例的评测集,每次改代码后自动跑一遍,对比回答质量、工具调用准确率、任务完成率、延迟和成本。
这个习惯的价值在于,它让项目迭代变成了数据驱动的过程而不是"凭感觉调 Prompt"。我认识一位做代码辅助 Agent 的开发者,他维护了一个 800 多个问题的评测集,每个问题标注了预期行为和评价维度。每次模型升级或提示词调整,他都会重新跑一遍评测,用得分变化判断改动是进步还是退步。这种工作方式看起来慢,实际迭代速度远快于那些"改完 Prompt 手动试一下"的团队。
评测之外还有观测。一个 Agent 在执行多步骤任务时,中间每一步发生了什么,模型是怎么推理的,调用了哪些工具,消耗了多少 Token——这些信息如果不记录,出了问题就只能两眼一抹黑。优秀的项目会把完整的执行轨迹可视化,开发者可以像看日志一样审查 Agent 的决策过程。这一点在生产和调试阶段的价值无限大。
4. 普通团队在五层里的定位策略
4.1 选层先看痛点密度,而不是技术热度
到这里,如果你已经能判断自己该深入哪一层,接下来就是定位的问题。我见过太多团队,一上来就瞄准 L1 模型接入或者 L2 编排控制,理由是"这是 Agent 的核心"。但核心不等于有商业价值,更不等于适合你去做。选层第一原则,应该看痛点密度——这个位置有多少人在疼,疼得有多厉害。
痛点密度怎么观察?去真实用户社区里泡一段时间。如果你的目标是客服场景,就去翻客服管理者的抱怨:哪些问题重复出现?当前工具哪里不好用?是转人工太频繁,还是工单处理太慢,还是知识库维护成本太高?找到足够多的真实痛点之后,再回头看你该做 L3 工具层的集成,还是 L4 记忆层的深化,又或者是 L5 交互层的改造。
举个例子,我认识的一个小团队没有去做通用 Agent 框架,而是专门做客服 Agent 的"情绪识别与升级策略"。他们在真实客服数据里发现,用户愤怒达到某个阈值时,继续让机器人回复只会让事态恶化,这时候需要立刻转人工,并且要把完整的对话摘要发给人工客服。这个痛点足够普遍,但在通用框架里几乎没人认真做。这个团队只专注这一件事,就打开了市场。
痛点密度低的地方,哪怕技术再先进,做出来也是自嗨。痛点密度高的地方,哪怕技术很朴素,做出来也有人愿意买单。这话听起来像废话,但在 Agent 领域,被"技术先进感"带偏的团队太多了。
4.2 稀缺组合:跨层的垂直切面更有机会
另一个值得认真考虑的策略是:不做单层纵深,而是做跨层的垂直切面。五层是横向的分类,但真实业务需求往往是纵向切过两三层甚至更多层的。
举个具体例子:单做 L4 记忆层,你面对的是所有 Agent 开发者,市场分散且竞争激烈;但如果你做的是"面向法律咨询场景的长期记忆系统",你需要同时解决 L4 的长期记忆问题、L3 的法规检索工具集成、L5 的律师审查交互界面。这个组合是跨了三层的垂直切面,市场上几乎没人做,但需求真实存在。
跨层组合为什么有优势?因为单层的通用组件很容易被大项目覆盖,而跨层的垂直切面需要同时理解多个层,集成成本高,大项目不愿意深入,小团队反而能做得精细。用"垂直切面"定义自己的产品,等于在五层地图上画了一条别人没走过的对角线。竞争格局马上从"和一千个 Agent 框架比"变成"在这个细分场景里你就是唯一"。
当然,跨层也意味着更高的复杂度。你需要同时懂模型调用、记忆管理、界面设计,对团队能力的要求更高。但如果产品成立,别人想复制你,也得具备同样的复合能力,复制门槛同样很高。从投入产出比看,这条路更适合小团队和独立开发者。
4.3 我踩过的坑:All in 通用框架的教训
这一段必须写,因为我自己在这上面栽过大跟头。前年我做了一个通用 Agent 编排框架,想的是"把所有 Agent 项目共有的编排逻辑抽出来,让大家不用重复造轮子"。当时我觉得这个方向无比正确,因为确实有太多项目在重复实现 While 循环加模型调用。
结果是被现实教育了一整年。第一个问题:通用框架意味着你要满足所有场景,但每个场景的需求差异巨大。客服场景需要稳定的多轮对话状态管理,数据分析场景需要理解表格结构,运维场景需要安全可控的工具调用权限。我做了一个"平均"的方案,结果每个场景都不满意。第二个问题:通用框架和现有竞品无法拉开差距。用户看到你的框架,第一反应是"这和某著名框架有什么区别"?如果没有显著差异,凭什么迁移?
这段经历给我的教训非常深刻:如果你没有足够强大的社区运营能力和资金投入,不要做面向所有开发者的基础框架。这个领域已经被巨头和顶流开源项目占据了,后来者连差异化展示的机会都很难获得。反过来,面向一个具体行业或者一类具体任务做纵深,虽然天花板看起来小,但每一步都踩在真实需求上,存活概率大得多。
5. 看完解剖图后的行动建议
5.1 快速判断一个开源 Agent 值不值得跟
在我持续观察项目的过程中,整理了一套自己的"项目筛选问题清单",这里分享给你。当你看到一个开源 Agent 项目产生兴趣时,别急着看文档,先回答这五个问题:
- 它的核心逻辑落在五层中的哪一层?是实现了新机制,还是对现有组件的重新包装?
- 它的业务场景是什么?如果答不上来,说明还在做技术演示,离落地很远。
- 它的记忆模块除了存聊天记录之外,有没有处理和遗忘的设计?没有的话,应用深度有限。
- 它的评测系统怎么验证效果?只有几个示例截图而没有系统化评测的项目,大概率质量不持久。
- 如果剥离掉大模型的 API 调用之后,它还剩下什么自己的资产?
最后一个问题最关键。模型能力是所有 Agent 项目的公共底座,今天你用模型 A,明天别人用更便宜的模型 B,性能就追平了。真正属于你自己的资产,是你积累的数据、你设计的业务规则、你沉淀的场景经验。如果一个项目剥掉模型后就空了,那它只是模型的"临时皮肤"而已。
5.2 最被低估的三个提升方向
最后给三个我认为在接下来的生态里依然有价值的方向,每一个都可以作为五层之外或者五层之内的深度切入点。
第一个方向是Agent 的可观测性与调试工具。写 Agent 代码的人都会遇到这个痛苦:出问题了根本不知道为什么。如果把一个 Agent 执行过程变成一条可以回放、断点、单步调试的轨迹,这个工具的刚需程度不亚于代码调试器。现在开源社区里几乎没有成熟方案,但从我接触的开发者反馈来看,需求量很大。
第二个方向是跨系统集成的封装与治理。工具调用层大家都在做,但做得太表面了。真正复杂的地方在于和外部系统的连通性、鉴权、限流、审计、异常恢复。把这些工程问题打包解决,做成一套可以复用的集成治理层,对做生产级 Agent 的团队来说是雪中送炭。
第三个方向是Agent 评测标准与基准集。目前评测大多停留在"人工试几个问题"的阶段,已经跟不上 Agent 的复杂度了。设计一套能自动评估多步骤任务完成质量的方法论和工具,无论对开源社区还是企业选型,都会是刚需。这个方向门槛不低,但正因为门槛高,才没被人挤满。
最后说一句这一整篇解剖实验下来我最大的感受:Agent 的骨架本来就简单,五层结构摆在那里,谁都能看明白,但每一层的血肉要想长出真正有用的东西,缺的不是天才想法,而是在一个点上持续打磨的笨功夫。你不需要做第六层,只需要在五层里找一个还没被认真对待的角落,把它做成真正可以交付的东西。这个方向,比追逐下一个热门框架靠谱得多。