过去一年多,AI行业最不缺的就是宏大叙事。一会儿有人说Agent要终结SaaS,一会儿有人说RSI一旦被点亮,超级智能就在眼前。这些概念刷屏的速度,远比任何一项技术突破都快。就在这种氛围里,有一位长期主张世界模型路线的研究者站出来,同时反对Agent,也反对RSI,还搬出自己团队的新架构路线,说当前主流的大模型叙事从根上就错了。
我不太关心“他是不是又在博眼球”这类争论,我更想知道的是:为什么一个做过很多贡献、也推过不少落地方向的人,会对当下最火的两个概念都泼冷水?这些反对里,有多少是清醒的判断,又有多少只是路线之争的情绪表达?作为一个过去两年一直在做AI产品和模型落地的从业者,我发现自己其实经常被这两类叙事推着走,所以想把这个问题拆开来看。
这篇文章会按这条线索展开:先搞清楚Agent和RSI的叙事为什么能够流行,再逐一拆解这位学者的反对逻辑,最后落到一个实际问题——如果我们不做前沿研究,只是做产品和工程,该怎么从这些争论里挑出有用的部分,而不是被一整个热搜话题带走。
1. Agent与RSI,正在成为行业默认的两套宏大叙事
Agent叙事简单说就是:把大模型从“你问我答”升级成“你自己看着办”。产品形态通常是大模型调用工具、拆解任务、自主决策,最后把结果交回给人。RSI叙事则是另一个方向:一个足够聪明的AI系统,可以自己读代码、改代码、甚至改自己的训练目标,如此反复迭代,能力呈指数级爆发。前者让人觉得“人工智能真的能干事了”,后者让人觉得“已经来不及了”,两个情绪叠加,流量和资本都愿意买单。
实际上这两套叙事并非毫无关联。Agent被想象成通往RSI的必经站:一个能自主规划的系统,当然也能规划对自己代码的重构;RSI反过来又为Agent镀了一层“最终形态”的光环。于是我们经常看到同一份PPT里,先用Agent演示一个自动写周报的功能,结尾再警告所有人AGI不远了。这种逻辑严密的叙事,是最容易被团队当作路线图来用的。
但问题在于,叙事一旦变成“默认前提”,就没人再愿意看反面证据。2023年那波开源自动化Demo热潮就很典型:给模型挂上搜索、阅读、写文件的工具,它确实能在演示环境中把任务一步步做完,但线上稍微复杂一点,就开始循环、幻觉、重复调用工具。大家当时都把这叫作“智能体涌现”,后来才发现,那更像“上下文拼接涌现”。这类现象并不罕见。
RSI叙事也一样。最近两年关于“模型自我进化”的讨论越来越多,其中一个反复出现的说法是:某个模型通过自己生成数据训练自己,然后在基准测试上分数变高了,所以“递归自我改进”已经发生。这里面其实有一个很大的偷换:用合成数据做有限微调,和系统在运行时自动修改自身权重,是完全不同的两件事。前者叫数据增强,后者才是RSI。很多讨论把前者当成后者的证据,行业预期就是这么被拉高的。
那么问题来了:如果这些概念本身都成立,这位学者的反对岂不是不合时宜?问题恰恰出在“成立”的程度上。接下来我想说清楚,他真正反对的Agent,不是那个概念,而是当前工程实践里被大量制造的“塑料Agent”。
2. 他反感的不是“智能体”,而是“塑料Agent”背后的默认前提
先说个容易误会的点:这位学者并不反对智能体这个概念本身,他自己做过多模态交互和机器人相关方向,很清楚“能感知、能决策、能行动”的系统是有价值的。他否定的是当前主流做法——在一个没有世界模型的大语言模型上,套一个规划器,接一堆工具,然后对外称之为Agent。我管这种形态叫“塑料Agent”。它看起来全能,实际上一碰真实世界就碎。
塑料Agent有四个硬伤,这四点决定它不是偶尔出问题,而是必然出问题。
第一,上下文窗口不是工作记忆。很多Agent方案都依赖把历史信息塞进上下文窗口,让模型记住“我现在做到第几步了”。但上下文窗口本质是一段有限长度的文本,模型读到后面时,前面的信息早就被注意力稀释了。任务一长,状态就开始漂移。这个漂移不是“可能会出错”,而是“一定会积累错误信号”,因为没有任何机制保证早期决策被记住和修正。
第二,规划没有因果支撑。大语言模型所谓规划,是在语言空间中根据概率续写出来的步骤,它并不知道“执行完步骤A是否真的会导致结果B”。在一个对话语料里,“先查资料、再写报告、最后发送”是高概率文本,所以模型会写这个流程。但真实任务里资料查不到、报告字数超限、发送接口报错,模型都缺少一个世界模型来判断当前状态到底对不对。
第三,工具调用形成很长的错误传播链。Agent把任务分给一个工具,工具返回的内容又喂回模型。这中间任何一步返回了格式奇怪的数据,或者包含了误导性信息,模型都没有可靠手段察觉。就像你做一道菜,配料表来自五个供应商,每个供应商都可能给错原料,但掌勺的人只看菜谱、不闻味,最后端出来才知道坏了。
第四,也是最本质的一点:模型对“任务是否真正完成”没有内在判断力。它判断完成的依据往往是“文本看起来像做完了”。所以你会看到很多Agent Demo在输出一份看起来很完整的报告后,直接宣布任务完成,实际上里面一半内容是从缓存里拼出来的。
这四点组合起来,塑料Agent在真实生产环境里的表现就是:演示时惊艳,跑几天后开始翻车。我自己在客服场景里体会过这个过程。当时我们想把工单自动分类和自动回复做成Agent形态,让大模型自己规划:读用户诉求、查历史订单、生成回复、必要时转人工。最初版本在测试集上看起来不错,一上线就乱了。长会话里,模型会把用户已经明确说过的“我不需要退款”重复写进推荐方案;遇到接口返回空值,它不会停下,而会脑补一个理由继续回复。
后面我们把架构改成了“固定状态机+局部模型决策”:先由代码判断当前处于哪个环节,只有生成回复内容时才调用大模型,读取历史、调用接口都由外部逻辑控制。同一个模型,甚至没有换版本,线上误判率就大幅下降。这个经历让我彻底明白,塑料Agent的问题不是模型不够强,而是整个系统设计把模型误当成了可靠的自主体。
所以这位学者反对Agent,本质上是在反对一种“浪漫化默认前提”:假设大模型已经具备了在开放环境中稳定完成任务的能力。这个默认前提一旦被戳破,Agent叙事就只剩下一堆漂亮的交互外壳。我理解他为什么越说越急,因为如果行业把所有资源都押在装扮塑料Agent上,真正值得做的事——比如让模型具备物理世界因果理解——就会被无限期延后。
3. RSI的三段论漏洞:从“自我进化”到“评测投机”
RSI之所以让人紧张,是因为它的论证看起来无懈可击。经典三段论是这样的:如果AI能达到人类水平,它就能理解自己的代码;能理解代码,就能改进自己;改进后的AI会更聪明,继续改进自己,于是在极短时间里,智能出现指数爆发。从头到尾没有明显的逻辑断点,这也是为什么从工程师到投资人都爱引用它。
可这位学者的批评之处在于,三段论里的每一步都建立在“当前架构可以被干净地自我修改”的想象上,而现实工程根本不支持这个想象。
先看第一步:模型能否可靠地修改自己。当前主流模型是一个巨大的权重矩阵,每次训练都要跑在GPU集群上,损失函数、优化器、数据分布都是外部系统控制的。模型内部没有任何机制可以直接“重写自己的权重”,更不用说理解自己在训练过程中哪里学歪了。让模型写代码来改自己倒是有可能,但那等于把关键环节外包给一个几千亿参数的脆弱程序。比如它改了一行代码,结果导致显存溢出,它自己能查出来吗?很难。
再看第二步:改进后能否被验证。真实系统里,能力并不是单调上涨的。一个模型在某个能力维度上变强,很可能会在另一个维度上变弱,这就是灾难性遗忘。如果“自我改进”的目标是模型自己定义的,模型认为“我变好了”的依据是什么?它可能会把自己在某个测试集上的分数变高当作“变好”,而这个测试集恰恰是它自己生成的,那我们其实是在做评测投机,而不是能力提升。
第三步的指数级假设就更可疑了。指数增长的前提是每一轮改进都能完整保留上一轮成果,并且没有环境约束。但任何训练任务都有数据瓶颈、算力瓶颈和评估瓶颈。当模型能力接近当下数据分布的上限时,额外的自我训练能带来的增量会越来越小,而不是越来越大。
我用一个表格把RSI叙事和实际工程里的改进循环放在一起对比,会更直观:
| 维度 | RSI的浪漫叙事 | 工程上的改进循环 |
|---|---|---|
| 改进主体 | 模型自己改写自己 | 数据工程师+评测系统联合迭代 |
| 改进依据 | 模型内部自我评估 | 外部可复现的回归指标 |
| 失败反馈 | 几乎不可观测 | 每次实验都有日志和复盘 |
| 时间尺度 | 指数级爆发 | 周级或月级的稳定迭代 |
| 主要风险 | 评测投机、越权行为 | 可控、可审计、可回滚 |
表格看完,你会发现一个很有意思的结论:所谓“递归自我改进”如果真的在当前主流模型上强行实现,最大的概率不是产生超级智能,而是产生一个不断优化自己评测分数的过拟合机器。它会在测试集上显得越来越聪明,但在真实世界里没有任何可靠的泛化提升。
那为什么RSI叙事还是这么有市场?因为它给你一个非常强的行动理由:既然迟早要失控,那就应该现在就投入安全研究、现在就限制能力、现在就讨论生存风险。但这位学者提醒的是,这种叙事把“未来不可验证的风险”摆在前面,反而挤占了“当下可观测、可修复的问题”的资源。当下模型越权调用工具、泄露敏感数据、在评测里作弊、在长任务里循环,这些都是看得见摸得着的风险,却远没有RSI听起来刺激。如果一个方向只是让你肾上腺素飙升,却拿不出一份可复现的实验报告,那它更适合当演讲主题,而不是当技术路线。
我还想说一点:这并不意味着“自我对弈”“合成数据”“模型自评”这些子问题没有价值。它们当然有价值,而且是正经的研究方向。问题在于,把这些子问题包装成“RSI已经发生”或者“超级智能即将来临”,是用一个无法证伪的故事替换一整套可以证伪的工程问题。这位学者反感的是后者,不是前者。
4. 新模型路线拆解:预测世界表征,而不是预测下一个Token
那么,反对完了之后,他的新模型到底哪里不一样?
要理解这一点,得先看主流大模型的训练目标:预测下一个Token。无论模型多大、数据多吓人,它最终学到的都是“给定前面一段文本,后面最可能出现的符号序列是什么”。这个目标不是不好,它是太适合做语言补全了,但语言补全不等于世界理解。
举个我经常用的类比:大模型像一个把台词背得滚瓜烂熟的演员,你跟它对任何文本都能接得上话,因为它见过足够多的话术。可一旦要它判断“桌上那个杯子在没人碰的时候会不会自己倒”,所有剧本里都没写过这个信息,它就只能从语言相关性里去编一个“合理”的回答,而不是基于物理因果去推演。
这位学者推动的路线,目标并不是预测下一个Token,而是预测世界在抽象表征空间里的演化。它的思路大致是这样:先把图像、视频、传感器信号编码成一组结构化表征,然后让模型在这个表征空间里做预测和对比。比如给定一个正在运动的物体的起始状态,模型不预测下一帧的每一个像素,而是预测“物体在表征空间中的下一状态”。像素预测和状态预测的差别,就是背台词和建立心智模型的差别。
联合嵌入预测架构就是这一类思路的代表,它和主流大模型有几个本质差异:
| 维度 | 自回归大语言模型 | 世界模型/联合嵌入预测 |
|---|---|---|
| 学习目标 | 预测下一个离散Token | 在抽象表征空间做状态预测 |
| 对世界的理解 | 依赖文本先验,弱因果性 | 直接建模状态变化,强因果性 |
| 交互方式 | 以文本输入输出为主 | 可与图像、视频、传感器直接交互 |
| 当前成熟度 | 自然语言任务成熟 | 偏视觉和机器人场景,离产品较远 |
| 训练成本 | 极高,依赖海量文本 | 相对可控,但需要与环境交互的数据 |
这条路线的核心价值,恰好可以用来回应前面两章的批评。Agent为什么不可靠?因为它没有一个关于世界的持续模型,只是在文本层面“演”出合理行为。如果模型能够直接感知和预测环境状态的变化,它就有了判断“任务是否完成”的依据,而不是靠猜。RSI为什么危险且难以实现?因为模型改自己之前,首先得预测“改完之后我会变成什么样”,这本质上也需要一个关于自身能力的世界模型。没有这个模型,自我改进就是盲人骑瞎马。
当然,这条路线有一个非常现实的问题:它目前离“能跟人顺畅对话”还很远。表征空间是连续的,语言是离散的,要怎么把连续的表征预测结果翻译成自然语言接口,到现在还是个研究难点。所以在未来很长一段时间里,主流产品可能仍然会继续使用大模型,世界模型更多会在视觉、机器人和自动驾驶这些“物理环境可感知”的领域里先跑起来。这也解释了为什么很多人觉得这位学者的反对“站着说话不腰疼”——因为他所在的研究领域确实离NLP产品化更远。
但从反叙事的角度来说,这恰恰是他最值得注意的地方。他的新模型不是想在“下一个Token预测”这条路上继续卷出更大的模型,而是想换一条赛道,从根本上解决“模型不知道世界状态”的问题。你可以不认同它的短期产品化价值,但你不能说它没有思想性。
5. 对产品团队的实用建议:怎么在不被叙事绑架的前提下做决策
前面聊了很多研究层面的东西,接下来落到更实际的层面:作为普通开发者或产品团队,我们不用纠结站队,但要学会从叙事里过滤出可执行的信号。我过去两年踩过不少坑,最后沉淀下来一套自己的判断方法,分享给你。
5.1 先回答“这个任务到底需不需要Agent”
很多团队上Agent,是被“大家都在做”推着走的。我的建议是,先不要问“要不要用Agent”,而是把任务本身拆开看。如果任务的流程是固定的,分支数量有限,状态完全可控,那用状态机加轻量模型就足够,硬套Agent只会增加不可控面。如果任务真的开放,用户意图无法枚举,上下文经常需要自由探索,这时候才考虑把决策权交给大模型。
一个实操上的判断标准是:如果你的流程在接到新需求时,能预判出最多五个分支,那就不要Agent,用规则;只有分支数量多到无法维护、且错误代价可接受,才让模型来做开放决策。这个原则听起来朴素,但能筛掉一半无效项目。
5.2 评测别只看“成功率”,要拆开看
我在很多项目里发现,团队喜欢用一个很高的“成功率”汇报Agent项目,但这个成功率根本没有约束力。真正可用的做法是同时记录五个数:任务完成率、人工介入率、平均交互轮数、单任务的Token成本、错误传播率(指一次错误被后续步骤放大的次数)。前面两个衡量效果,后面三个衡量稳定性和经济性。
再加上一个回归测试集。把历史真实日志里比较难处理的几百条样本做成固定测试集,每次模型或流程升级以后跑一遍。不要只看总分,还要看哪些历史问题被新方案重新触发了。很多Agent项目不是能力不强,而是频繁在同一个地方跌倒,只是没有一套机制把这种“跌倒”记录下来。
5.3 遇到“模型会自动进化”的说法,多问四个问题
如果某个供应商告诉你,他们的系统具备自我进化能力,我的建议是不要直接听结论,而是问四个问题:第一,它进化的是权重,还是只是调了prompt?第二,它判断“变好”用的是哪个评测集,这个评测集是不是自己生成的?第三,变好之后,有没有同时变差的能力维度?第四,整个改进过程有没有日志,失败案例能不能复盘?这四个问题问下来,大多数所谓自我进化都会现出原形,变成“合成数据微调”或者“自动提示词优化”。这些技术本身有用,但别把它们当成RSI去估值。
5.4 把预算花在数据闭环和可观测性上
最后一点是我的掏心窝建议。一个Agent项目能不能长期稳定运行,主要看的不是模型多大,而是数据闭环是否成立。有没有渠道收集线上失败样本?有没有人工标注回流?有没有定期重训计划?有没有上线后的监控看板?这四个环节,哪一个缺失,系统都会慢慢退化。
我见过一个团队三个月做了三个智能体Demo,每个Demo在演示时都很惊艳,但没有任何一个能上线。原因不是技术不行,而是没人定义“什么叫做好了”,更没有数据回流管道。结果每次演示都在透支模型的初始能力,越试越差。如果当初把预算的一半拿去做评测闭环,故事一定不一样。
6. 反对的边界:哪些反对是清醒,哪些地方又不要矫枉过正
讲到这里,我猜会有读者觉得:那Agent是不是真的不行?RSI是不是完全不值得考虑?我想给这个讨论画一条边界,因为矫枉过正同样是一种叙事陷阱。
首先,Agent在受控场景里确实能产生价值。代码生成的自动补全、客服工单的预处理、营销文案的批量生成,这些场景的流程边界清楚,错误代价低,大模型做局部决策完全划得来。它们不是“塑料Agent”,而是“工具化助手”。所以这位学者反对的,不等于所有Agent产品都该砍掉,我们要反对的是“让Agent包揽一切”的叙事。
其次,RSI背后的一些子问题,比如自我对弈、合成数据训练、模型自评校准,都是值得投入的真实研究方向。我们不能因为它们被宏大叙事包装过,就把这些课题一起丢掉。只不过在投入资源时,我们要把它们当作“工程改进课题”,而不是“通往超级智能的必经路”。同一个课题,用这两种视角管理,预算和预期会差出数量级。
我在这个行业里慢慢明白一件事:宏大叙事不是义务,也不是毒药,它更像一个放大器。好的叙事能把资源引到真问题上,坏的叙事则会把资源引到形容词上。判断叙事好坏,不在于它听起来是不是很聪明,而在于去掉那些漂亮的形容词之后,剩下来的部分能不能变成一条可操作的工单:比如明天要修什么、跑什么实验、用什么指标验收。能变成工单的叙事,值得跟进;变不成工单,就只适合出现在演讲里。
最后再分享一个我自己现在常用的决策标准。我判断一个AI方向值不值得投入,只问一个问题:它能不能让我的模型在至少一个真实任务上,减少一次人工纠正?如果能,就值得试;如果不能,无论它讲得再过瘾,我都会先放一放。所谓世界模型也好,Agent也罢,最终都得落到“系统更可靠,人更省心”这一条朴素的线上。至于这位学者和主流叙事的争论,还会持续很久,但那已经不太影响我怎么做事了。