这两天在开发者社区刷到一位老同行离职后的复盘长文,我前后看了三遍。这位朋友此前在一家头部AI公司带核心模型团队,手里是那款千亿级别对话大模型,外界关注度一直很高。离职之后他没有选择安静走人,而是把这几年的技术路线、团队争执、踩过的坑、以及他眼里AI下一个阶段该走的路,一口气写了出来。帖子标题很直白:复盘过去走过的弯路,指出AI的新路。我把它消化了一遍,又结合这几年自己做大模型应用和模型训练的经验,把其中真正有信息量的部分整理成了这篇笔记。
这篇文章适合三类人读:正在做模型训练和AI应用开发的人、想搞清楚大模型方向怎么选的团队负责人、以及刚入门但不想被各种发布会带偏节奏的技术新人。它不是手把手教你怎么写代码,而是帮你建立一套判断AI技术路线的坐标。技术圈里最稀缺的从来不是新消息,而是把一段真实项目经历摊开来讲的勇气,这篇复盘恰好补上了这块空白。
1. 这次复盘发声的背景与分量
1.1 为什么离职后的复盘比在职总结更值得看
先说一个很多人容易忽略的事实:在职的时候,技术人很难讲真话。KPI挂在那里,竞品虎视眈眈,公司对外口径也已经定好,你在内部评审会上说"这个方向可能错了",信号会被层层过滤。那些真正刺痛的问题,比如评测指标失真、数据工程长期被低估、商业化节奏压过技术成熟度,都被大家心照不宣地绕过去了。我见过太多项目,问题已经很明显,但会议室里没有一个人点破,因为点破意味着要推翻之前一堆人的决策。
这次不一样。这位工程师已经和公司解绑,不需要再维护任何对外口径,也不再有汇报关系上的顾虑。所以这篇复盘呈现出的是真正的技术人视角的"项目解剖报告"——哪些决策是在什么压力下做出的,哪些信号当时已经出现但被忽视了,哪些弯路其实走到一半的时候就有机会掉头。这类内容,比任何官方技术博客都更有信息量。
我虽然在一些具体观点上跟他并不完全一致,但他愿意把"项目团队内部怎么想问题"这条线公开出来,本身就是行业稀缺的东西。大模型项目过去两年大多在黑盒状态下运行,外界能看到的只有发布会和技术博客,真实决策背后的权衡和犹豫,几乎从来没人讲。这次他补齐了这个视角。
1.2 复盘的不是单个项目,而是一代技术路线实验的缩影
更重要的是,他复盘的这类项目不是孤例。过去两年,几乎所有押注对话大模型的团队都站在相似的路口:是继续堆公开数据冲榜单,还是回到真实场景里抠数据质量?是坚持自研架构的信仰,还是跟随被验证的主流技术路线?是先追求可演示的效果,还是先把可靠性和安全性做到位?这些问题不是一个团队独有的,而是整个行业集体交的学费。
技术路线有一个很特殊的属性:路径依赖。模型参数量、数据管线、训练框架一旦定型,后面想改,不是改一个函数的问题,而是要把半条训练管线推倒重来。这位工程师提到的几次转向,本质上都是在和这种路径依赖对抗。也是因为这个原因,复盘才格外重要——AI技术迭代太快,很多决策的效果要等半年后才显形,如果不做系统性复盘,团队很容易在同一个坑里掉两次。
他把其中一个项目样本摊开来讲,对整个行业都有参照价值。我的理解是,这不是在说"我们做得有多差",而是在说"我们曾经在哪几条路上绕了很久,后面的团队可以少走这些路"。这种心态下的复盘,才是真正有用的复盘。
2. 复盘对话大模型项目踩过的几段弯路
2.1 榜单狂欢与真实体验的背离
第一个弯路是在评测上的过度指标化。当时项目内部几乎把公开榜单分数当成模型健康度的唯一标准,哪个榜单排名掉了一名,整个小组下周的周会都要围绕这个展开。为了把分数推上去,团队用了大量和榜单同源的数据做训练,模型回答的风格也在一点点向"参考答案"靠拢。从内部指标看,一切都在变好。
但真实体验出了问题。这位工程师举过一个例子:模型越来越会"说正确的话",越来越不会"做正确的事"。用户问一个具体的操作问题,它给出一段四平八稳、信息密度极低的回答,读起来像官方说明书,问题却一个都没解决。背后的原因是:榜单本质上考察的是"答案像不像参考答案",而不是"问题有没有被解决"。模型学到的是模仿高分回答的句式,而不是解决用户问题的能力。
这件事我琢磨了很久。评测本来应该是一面镜子,但当模型开始反向适配评测的时候,镜子就变成了哈哈镜。团队越努力,镜子里的自己越好看,真实用户越不满。他们最后不得不花大力气重建了一套基于真实任务的评测集,才把方向慢慢扳回来。这个教训我后来在自己做AI应用时反复想起:任何一个被当作目标的指标,都一定会被系统 gaming,这是逃不掉的规律。
2.2 数据堆量与数据质量的拉锯
第二个弯路在数据策略上。项目早期的思路非常朴素:高质量数据越多越好。团队花了很多精力去采购、抓取、清洗语料,数据规模上了好几个台阶,但模型能力在后期几乎没有提升。后来他们做了一个对照实验,把训练集里重复度最高的三成数据剔除掉,其他设置不变,重新训练了一版模型,效果竟然不降反升。这个结果当时让所有人都很意外。
原因拆开看其实不复杂。重复的高质量数据并不能提供新信息,反而会让模型在常见问法上过度拟合,对长尾问题的容忍度下降。更有价值的数据往往是那些"不太好处理"的样本:多轮对话中的上下文纠缠、带噪音的用户输入、需要反问澄清的模糊问题。这类数据清理成本高、标注难度大,早期都被当成脏数据过滤掉了,恰恰是它们决定了模型的真实上限。
这个歧路给我的启发是,数据工程不能按流水线思路来做。不应该只追求"多快好省地清洗",而是要建立一个用badcase反哺数据采集的闭环。每一次模型上线后用户反馈里的失败案例,才是下一轮数据工作的起点。谁把这个闭环跑得更快,谁的数据积累就更值钱,这比单纯堆语料规模重要得多。
2.3 技术路线反复与团队的隐性损耗
第三个弯路是技术路线的摇摆。项目早期有一派坚持自研架构,认为跟随主流路线就意味着永远慢半拍;另一派主张直接采用已经被验证过的技术方案,把资源集中在数据和应用创新上。这个争论持续了大半年,期间两个方向都在并行投入。后来外部同行的进展证明主流技术路线效果更好,团队才不得不放弃自研方向,推倒重来。
推倒重来的代价不只是半年时间。很多研究员对自己投入了大量心血的方向被废弃是有情绪的,部分核心成员在这个过程中选择离开。团队的知识积累、协作默契、士气,全部经历了一次重创。他在复盘时说了一句让我印象很深的话:技术选型上的摇摆,往往比选错本身更伤。选错至少能积累失败经验,摇摆则什么也没留下,只留下组织和士气的损耗。
如果复盘这个弯路,我认为问题不在于最后选了哪个方向,而在于缺少阶段性的验证机制。技术路线之争不能用开会投票解决,应该设定一个三个月到半年的验证节点,用可量化的实验数据来说话。到了节点,哪个方向跑出了更强的信号,资源就果断倾斜过去,而不是一直双线并行、互相消耗。技术决策里的灰度可以存在,但不能无限期存在。
2.4 商业化节奏过早介入
第四个弯路和商业化节奏有关。模型还没到可靠性达标的阶段,产品部门已经定好了发布日期,理由是市场窗口不能等。于是安全策略、对齐效果、长尾场景的压测都没有做完,模型就带着一身问题上线了。这种场景在AI行业里太常见了,模型的能力边界不透明,非技术角色很难判断"什么时候能好",只能靠日历倒推。
后果很快出现。用户发现的严重问题以工单形式涌回来,团队不得不紧急上线补丁版本,一边修一边发版。三个月的节奏被完全打乱,本可以用于打磨核心能力的工程师时间全部耗在救火上。更麻烦的是,这波"能讲故事但不耐用"的版本消耗了外界对项目的信任,后面即便模型真的修好了,新用户再试用时也带着预期阴影。
我自己的观察是,AI项目非常容易陷入这种"日历驱动"而不是"成熟度驱动"的发布节奏。这种情况没有完美解法,唯一能做的就是尽量在早期把"发布 = 可靠 + 安全 + 用户体验达标"这个标准变成团队共识,让所有人都有在里程碑节点说"还不能上"的权限。这个权限看着简单,在真实组织里非常难拿到,因为它挑战的是商业部门的时间表。
3. 他现在给出的AI新路
3.1 评测重构:从"答题"走向"干活"
复盘说过之后,他给出了自己眼里AI应该往哪走的方向,第一个是把评测体系彻底重构。核心思路是:不再拿"这道题答得标不标准"来衡量模型,而是拿"这个任务完没完成"来检验模型。举例来说,让模型去模拟处理工单、拆分复杂任务、调用工具、在错误发生后自动修正,最终看的是任务完成率、返工率、需要人工介入的次数。这些指标才是和业务价值真正挂钩的东西。
这个变化看上去只是评测方式变了,实际上是在重新定义"什么是一个好模型"。过去的评测是出题者思维,考的是记忆和表达;新评测是使用者思维,考的是执行和结果。一旦评测标准变成"干活能力",模型的训练目标也会跟着调整,产品团队做决策时手上的数据也更有说服力。他提了一个很具体的建议:每个业务团队都应该有一个"最小可信任务集",规模不用大,二十到五十个真实任务就够,关键是每个任务都要有可判定的完成标准。
我认为这是整篇复盘里最值得马上落地的一条。不需要等行业的统一评测标准出来,现在就可以从自己的业务里抽一批真实任务,按难度分三档,搭一套最简单的评测流程,坚持记录。公开榜单衡量的是平均水平,你自己的任务集衡量的是你的用户在乎的那些具体边界,后者对你的价值高得多。
3.2 Agent化:把"模型能力"变成"系统能力"
第二个方向是Agent化。他的原话大意是:单模型的能力提升正在变慢,模型只能提供底层智力,真正解决工作问题的,是模型和工具、记忆、规划、校验、纠错串起来的整个系统。这个判断我基本认同,而且在实际项目里体会很深。
过去我们习惯把注意力全放在主模型身上,认为参数越大、能力越强,任务就解决得越好。但实际落地的时候你会发现,一个中等规模的模型,配合上写得很稳的工具调用逻辑、结构化的记忆模块、任务分解模板,往往比一个更大但裸奔的模型更能解决实际问题。打个比方,一个聪明但完全没有办公流程概念的新人,和一个能力中等但熟悉公司流程、知道每一步该找谁、出错了会自查的熟手,后者放在业务流程里往往更靠谱。Agent要做的,就是把模型培养成那个"熟手"。
Agent带来的另一个重要变化是数据飞轮。模型在真实执行任务中的每一步都会留下日志,这些日志反过来可以用于训练和评测。传统对话模型只能靠人工评估来发现弱点,Agent可以把"哪一步工具调用失败、哪一次规划走偏"变成结构化数据,让迭代更有方向。我在项目里最看重的也是这一点:Agent最大的价值不只是完成任务,而是让系统的每一次失败都变成可分析的记录。
3.3 推理成本:普及的前提是成本降到可承受
第三个方向听起来不够性感,但非常务实:推理成本。他的观点是,AI能力如果只停留在高端场景,永远无法成为基础设施,必须把单次调用的成本压到足够低,大规模应用才能真正跑起来。我在实际项目里对这一点体会很深:有些团队在demo阶段觉得用大模型感觉很好,一算全年预算就沉默了。
成本不是一句"以后会降下来"就能绕过去的,它直接影响产品的商业模式和付费意愿。降本的手段其实很多:模型量化、投机采样、KV缓存复用、路由到不同规模的模型、把高频简单任务从大模型分流到小模型。这些工程优化本质上是在用成本思维重构系统架构,而不是单纯等硬件降价。他特别提了一个观点:以后衡量模型价值的关键指标,不是每秒生成多少token,而是"完成一次任务的总成本"。
这个视角很值得强调。token单价再低,如果一次任务要调用几十次,成本依然不可控;反过来,如果一个中等模型配合良好的工程优化,能用更低的总成本完成同样的任务,它在商业上就是更好的选择。我后来做技术选型时,都会把成本模型写进方案里,而不是等到上线之后才发现根本扛不住。
3.4 多模态与长上下文:要落到真实工作流里
第四个方向是关于多模态和长上下文的,他的态度非常冷静:不要为了多模态而多模态,也不要以为上下文越长越好。模型如果能在文档理解、表格解析、截图问答这些真实高频场景里稳定发挥,比能"看懂"一百种输入但每一种都不好用重要得多。这个观点我举双手赞成,因为炫技型能力在真实业务里的价值,远低于把几个基础场景做到九十分。
长上下文也是一样。我见过很多项目在超长上下文的"军备竞赛"上投入大量精力,但实际业务里,用户真正需要的并不是把几百万字全部塞进上下文,而是快速找到关键信息。与其让模型在处理长文本时越来越贵,不如把检索和模型能力结合起来:先用检索把长文本缩减到几千字的高相关片段,再让模型基于这些片段回答。这样既能控制成本,又能保证准确性。
他把这条归结为"AI的能力要用在流程的刀刃上"。这句话我越琢磨越认同。模型不是万能的,它在流程里最该干的事是快速理解局面、给出关键判断,而不是把所有琐碎的信息处理工作都包揽下来。任何超出模型可靠范围的重活,都应该通过工具、检索、人工校验这些外部手段来补位。把模型放在它擅长的地方,其他环节用工程手段补住,这才是AI落地的正确姿势。
4. 普通开发者现在可以带走什么
他讲的这些事,很多是大团队的视角。但其中的决策方法,对个人开发者和中小团队同样适用,甚至更有价值,因为小团队没有大厂那么厚的资源去试错。
4.1 不要被大厂路线带乱自己的节奏
每次有头部厂商发布一个新模型或者新框架,社区里都会泛起一波焦虑:我们是不是落后了?要不要立刻迁移过去?但看完这份复盘你会发现,连大厂自己都在试错,它们公布的路线不一定是"正确路线",只是在那个时间点、那个资源约束条件下的选择。把自己的技术方向押在别人的发布会日期上,是一件非常危险的事情。
我建议在做技术选型前,团队里的每个人都要问自己三个问题:这项技术三年后是否仍然成立?它和我的数据、场景是否真的匹配?把迁移成本和试错成本算进去,经济账是否算得过来?如果三个问题里有两个是否定回答,就要果断放弃跟风的想法。技术在快速变化,但基本功不会变:数据质量、工程能力、对场景的理解,这些才是能穿越周期的资产。大厂可以同时押注很多方向,小团队不行,所以更要克制。
4.2 建立自己的私有评测集,别被公开榜单牵着走
公开榜单只能当作参考,不应该成为决策依据。我在自己的项目里会维护一个私有评测集,大概三四十条,全是从真实用户反馈里挑出来的高价值问题,再按难度分三档。每次准备升级模型或者更换模型供应商之前,先把这些问题跑一遍,记录哪些问题从"失败"变成了"通过"、哪些问题出现了回归,再结合差评趋势做最终决定。
这套流程看起来很原始,但隔着很多次踩坑,我确认它极其有效。公开榜单衡量的是平均水平,你的私有评测集衡量的是你的用户在乎的那些具体边界,后者的判断价值是前者没法比的。而且这个评测集不是静态的,每来一批新的差评,我就把其中典型的问题转化成新的评测条目。坚持两三个迭代周期之后,你会发现自己对模型能力的判断力明显强于那些天天刷新闻的人。
4.3 算清AI落地的那本经济账
最后一条是从成本视角出发的提醒。很多团队引入AI时只盯着模型能力,忽略了一个关键问题:人工校验和兜底成本。我习惯用一个很粗略的公式来评估一个AI功能是否值得做:AI落地价值 = 人工完整执行的成本 - (AI调用成本 + 人工校验修正成本)。如果AI只是把操作时间从十分钟缩短到三分钟,但校验AI产出的时间需要五分钟,这单生意其实没省下什么。
只有AI把任务粒度做得足够小、把校验成本压到足够低,才是真正值得投入的场景。这个经验帮我避免了很多华而不实的"智能"需求。比如让AI直接写一份完整的季度报告,听起来很厉害,但每次都要人工核对数据和措辞,总成本反而更高;而让AI先把历史数据汇总成表格,再让分析师把精力花在结论上,这就是健康的分工。成本意识不是限制创新,恰恰是让创新能活下来的前提。
5. 大家关心的问题与我的看法
这份复盘发出来之后,讨论最集中的几个延伸问题,我也想了很久,不一定有标准答案,但可以把思路再往前推一步。
5.1 这些弯路能不能提前避免?
我的看法是,可以缩短,但很难完全避免。因为很多问题在当时的信息环境下是看不清的:评测指标失真,只有积累了足够的用户反馈才能发现;技术路线选错,只有等到同行验证才能证明;商业化节奏问题,在发布压力面前任何建议都显得轻飘飘。站在事后角度当然可以说"早该知道",但站在当时的会议室里,信息就是不完整的。
唯一能做的,是建立允许说"这个方向可能不对"的文化,以及定期把关键假设拿出来和现实对照。比如每个季度做一次路线复盘会,不聊进度,只聊"我们当初的判断现在还被验证吗"。这个动作听着简单,很多团队根本做不到,因为会触及太多面子问题。但恰恰是这种看起来"低效"的反思环节,能帮团队少走最远的那段弯路。
5.2 同样的AI新路,大公司和小团队的姿势不同
大公司可以同时押注多条路线,用资源对冲不确定性;小团队没有这个条件,必须把资源集中在一点上。对小团队来说,更务实的打法不是试图在基础模型上和大厂竞争,而是在垂直场景里建立"数据飞轮 + 工程化闭环"。找到一个具体的、高频的、有付费意愿的任务,把模型、工具、人工校验整个流程打磨到极致,这个闭环本身就是壁垒。
这个壁垒不在模型本身,而在场景数据和流程积累上。大厂也许有一百个研究员,但它不可能对每个垂直场景都投入深度精力。小团队的优势是离客户近、迭代快、可以随时调整流程。与其焦虑"模型没别人强",不如把精力放在"我的这条任务闭环比别人顺滑多少"上,后者才是用户真正感受到的东西。
5.3 真正容易被忽略的是工程化,而不是新模型
顺着这份复盘我还想到一个点:大模型的能力迭代肯定会继续,但过去两年的经验说明,模型能力解决不了一个团队工程化水平太弱的问题。数据管线的稳定性、评测体系的有效性、线上监控和回滚机制、人工兜底流程,这些才是交付质量的关键。与其把预算都砸在调用更贵的模型上,不如先花精力把地基打牢。地基扎实,换模型、换架构都不会伤筋动骨;地基不牢,再强的模型也变不成可靠的产品。
我在实际项目中见过太多例子:同一个模型,A团队用得非常好,B团队上线一周就事故不断,差别几乎全部出在工程化能力上。AI这个行业太容易把功劳归于模型本身,但真正决定项目成败的,往往是那些不起眼的数据管道、监控告警、回归测试和badcase管理制度。这些工作不性感,却是让AI能力稳定变现的唯一路径。
把这篇复盘消化完,我再对照自己手头的几个项目,最大的感受是:技术圈太容易把注意力放在"最新"上,而太少放在"可靠"上。那位工程师说的所谓AI新路,本质上不是一条从未出现过的路,而是把一些朴素的原则重新坚定一遍:评测要贴近真实任务,数据要注重质量,成本要纳入架构设计,工程化要比新概念更受重视。最后分享一个我一直在用的小习惯:每次看到新模型或者新技术的消息,先问自己三个问题——它到底要解决什么真实任务?评测数据是从哪里来的?出了问题之后,谁来负责把badcase修好?这三个问题想不清楚之前,不要急着追。想清楚了,哪怕动作慢一点,方向也通常不会错。