GTC’26现场,几步就能听到“端到端”。但真正让算法工程师停下脚步的,不是这个词本身,而是大家在追问同一个问题:端到端之后,自动驾驶的主线到底是什么?
我是做感知和预测建模的算法工程师,这次逛GTC’26,发现最热的展台反而不是传感器或者算力板,而是那种“我们能把模型端到端跑起来”的演示区。说实话,这类Demo我见得太多了,真正触动我的,是在几个小规模交流会场里,一线工程师们在数据闭环、世界模型和线控执行之间反复拉扯的那些讨论。这篇不打算做会议综述,我只想借现场看到的几个趋势,聊聊我对端到端时代“主线”的判断。
1. 端到端到底在“端”什么:被混为一谈的三个层级
1.1 从规则瀑布到模型自治:端到端的三个代际
自动驾驶的传统架构,是典型的瀑布流水线:感知识别出车道线和障碍物,预测模块对目标的意图做假设,规划模块再基于预测结果解出一条轨迹,最后交给底层运动控制执行。每个环节都有独立模型、独立标注要求和独立评价指标。这个架构最大的毛病,是误差会在层级间累积——感知漏掉一个目标,后面的预测和规划基本全丢。过去算力不够、数据不够,大家只能容忍这种“接力棒式”的做法。
第一代端到端,严格说是“感知端到端”。它把感知部分收敛成一个大BEV+Transformer主干网络,但决策规划还是走规则或轻量搜索。第二代端到端,把预测和规划也拉进同一个可微框架里,特征从一个模块流向下一个模块时,反向传播可以直接把损失传回去,系统开始具备“联合优化”的能力。第三代才是现场大家讨论最多的“单一模型端到端”:传感器输入经过骨干网络后,直接输出一条时空轨迹或控制量,中间没有显式的红绿灯状态维护、交叉路口识别这样的中间表示。
这三代之间的差异,用大白话讲,就是打工流水线、部门协同和一人全包。流水线每条线单独考核,部门协同有共同KPI,一人全包则是把整个驾驶能力压在同一个大模型上。现在行业说的“端到端”,大多数是指第二代加第三代混合——车端骨干网络统一处理感知预测,规划部分既可以用模型解码轨迹,也可以保留一定结构的搜索或安全过滤。
1.2 模型的终点是“意图”而不是“转角”:控制层仍是硬边界
很多非从业者以为端到端就是“摄像头画面进,方向盘转角出”。这次GTC’26的讨论里,一个被反复强调的观点是:量产车上几乎没有谁会直接让网络输出方向盘转角或刹车踏板深度。原因不复杂——方向盘后面的执行机构涉及功能安全等级很高的线控底盘,如果一个大模型直接介入每一次转向指令的最终仲裁,一旦模型在极端光照下产生一个错误转角,系统没有任何缓冲余地。
所以主流做法是,端到端网络输出“驾驶意图”,也就是一条时空轨迹或一个目标点序列,再由底层横纵向控制模块把它拆成方向盘转角、加速度等信息。这个边界的存在,不是端到端不彻底,恰恰是工程上负责任的做法。模型负责理解“我想怎么走”,底盘负责“怎么稳定地走过去”,中间还要加一层轨迹校验,确认这条轨迹不压双实线、不与交通参与者冲突、加速度在舒适阈值内。
这个细节在展会上被讨论得很多,因为它直接关系到“端到端是否可信”。一位同行朋友给了一个我很认同的说法:端到端解决的是“决策上限”问题,规则和底盘解决的是“决策下限”问题。上限决定这辆车聪明不聪明,下限决定它出事不出事,两者缺一不可。
1.3 规则不是端到端的敌人:安全仲裁层的存在感越来越强
还有一种容易走入极端的想法:“都端到端了,干脆把规则全删了。”GTC’26的圆桌里激进观点不少,但在量产一线待过的人普遍冷静得多。端到端模型再强,本质上依然是数据驱动出来的统计模型,没见过的场景就是没见过,概率再低也不等于零。所以现在的方案里,规则通常以“安全仲裁”“包络校验”的形式继续存在。
具体来说,模型生成的所有候选轨迹,都要过一个轻量级规则校验器,检查是否超出可行驶区域边界、是否违反交通信号、是否会导致碰撞风险超过阈值。校验不通过就给模型施加减速约束,或者触发最小风险策略。这个过程有个很形象的比喻:大模型是那个想象力丰富的驾驶员,安全仲裁是坐在副驾的考官,考官不负责开车,但拥有最终否决权。这个定位在GTC’26多个演讲里都被提到,我认为这会是端到端前装量产的标配架构。
2. 数据闭环才是真正的主场:端到端把“数据饥渴”写在脸上
2.1 少了影子模式,再好的大模型也只是“没出过驾校的新手”
整个会场里,出现频率比“端到端”更高的词,其实是“数据闭环”。端到端模型的能力上限,本质上由训练数据的分布覆盖度决定。城市道路的长尾场景太杂了——施工改道、卡车掉下的货物、逆行的外卖车、对向借道的公交车——任何一个都想靠研发车队人工采集到足够量,成本和时间都不可接受。
所以现在主流的做法是“影子模式”:量产车正常行驶,用户打灯、变道、刹车的同时,车端会跑一个与用户操作解耦的影子模型,让影子模型也“云驾驶”一遍同一段场景。影子模型的输出会和用户的实际行为做比较,如果出现明显差异,说明这个场景对模型构成挑战,车端就只把这几十秒的数据切片回传到云端。回传不是盲目的,而是带着触发条件、上下文、传感器原始数据一起回来,进入训练集或评测池。
这背后的成本结构变化很有意思。过去数据采集是“人肉路测”,招安全员、买测试车、申请路测牌照,烧钱烧得肉疼。现在数据采集变成了“运营存量车队”,每一辆量产车都是一个带筛选逻辑的数据收集器,边际成本被压得很低。展会上一家做数据平台的公司打出的口号让我印象深刻:“一千辆车跑一年,不如十万辆车跑一天。”虽然带点营销味道,但方向是对的——决定端到端公司走多远的,是它能撬动多少“在真实世界里活着”的车。
2.2 标注体系重构:机器在标,人在审,规则在被持续定义
端到端模型对标注的定义也和过去不一样了。传统感知任务需要人围着目标框点来点去,现在主流是4D标注——空间上要标出三维框和语义,时间上要标出目标在连续帧里的轨迹,还要带出遮挡关系、自车运动、车道拓扑等信息。这样的数据量如果全靠人工,一天能标掉的里程数少得可怜。
我在现场看到比较成熟的方案是“两级挖掘+自动标注”:先通过无监督或自监督模型把大规模回传数据做预聚类,拉出高频难例;然后用离线感知大模型自动生成初始标注,再由人工抽检修正,最后经过规则校验写入训练集。整个流程里,人的角色从“画框工人”变成了“标注质量运营者”。这个变化对团队技能结构的影响很大,我之前的标注管理团队,现在最需要的人不再是拖拽框的工具人,而是能写规则、能看失败案例、能定义“什么样的数据值得救”的数据分析师。
这种背景下,“数据版本管理”也变成了硬需求。今天训练出一个SOTA模型,一个月后换了一套数据子集,性能掉了多少?是哪类场景分布的锅?如果没有一套可追溯、可对比的数据集版本管理,端到端团队会陷入盲人摸象的状态。GTC’26展区里很多厂商开始把“数据集元数据管理”当成卖点,我的看法是,这东西未来的重要性不会低于模型结构创新。
2.3 评价体系变了:从mAP到“每千公里接管次数”的暴击
算法工程师开会,绕不开指标。传统感知看重mAP、召回率、车道线准确率,但到了端到端时代,这些指标变得越来越“失真”。一辆车感知mAP刷得很高,规划依旧可能像个新手;反过来,模型感知偶尔漏检一个锥桶,但规划有冗余,车辆照样安全通过。感知精度和驾驶结果之间,划不上等号。
端到端系统真正的主指标开始变成:平均接管间隔、每千公里接管次数、接管原因分布、舒适性指标(纵向加速度抖动、横向加速度限制)、能耗水平。这些指标的特点是“直接贴近用户体验”。同样跑一段快速路,一个模型的接管间隔是500公里,另一个是300公里,哪怕前者的占用网络精度略低,用户依然会觉得前者更“老司机”。这也意味着算法团队的考核方式要全面重做:你不再只是优化一张二维曲线,而是在优化一段连续驾驶行为的安全感和舒适感。
| 指标类型 | 传统架构常用 | 端到端时代更关注 |
|---|---|---|
| 感知精度 | mAP / NDS / 车道线IOU | 关键接管场景的漏检率 |
| 预测质量 | Miss Rate / minADE | 主动安全下的预测失效 |
| 规划效果 | 碰撞率、偏移距离 | 接管率、乘坐舒适度、决策合法性 |
| 整体运营 | 路测里程 | 有效回传里程、难例触达率、问题收敛速度 |
这个表格不是贬低传统指标,而是想说明:端到端把“驾驶能力”当成一个整体来考核,评价体系必须跟着往上走。GTC’26上好几场分享都把接管原因做了自动化归因分析,用一个分类器把每次接管切成感知失效、预测不准、规划保守、底盘响应慢等几类,再定向优化。这种“把问题拆进模型链路里”的做法,比单纯追求一个总接管次数更有指导性。
3. 世界模型与合成数据:端到端时代的“第二数据源”
3.1 真实路测喂不饱长尾,世界模型走到台前
如果只有真实数据,端到端模型的短板就摆在那:极端场景根本碰不到。高速公路上掉下一块被雨布盖住的钢板,市区里窜出一条流浪狗,十字路口遇到戴着怪灯罩的环卫三轮车——这些场景在真实行驶中概率极低,但一旦漏掉,后果可能就是严重事故。
这也是GTC’26上世界模型被反复提及的直接原因。所谓世界模型,在自动驾驶语境下可以理解成一个能根据交通场景历史状态,生成未来动态并预测多智能体行为的深度模型。它的两个核心用途我梳理下来是:生成逼真的驾驶视频,以及在生成的仿真环境里做闭环测试。比如从一段真实事故数据出发,世界模型可以“复活”这个场景,再把天气改成雨天、把旁观车道改成拥堵、把插队车辆的数量翻倍,生成一大批在物理规律上说得通的变体场景。这些变体既能喂给模型做训练,也能用来评估系统在极端条件下的表现。
这个概念听起来很科幻,但落地度比我预想的高。我在一个展台看了一段Demo:一段十秒钟的城市道路行车记录,被离线重建成了3D场景,操作人员随手往路中间塞了一个静止障碍物,重新渲染后车辆轨迹立即绕行刹车,整个过程在几分钟内完成。这背后是神经辐射场、三维高斯泼溅和扩散模型这些成果在自动驾驶仿真上的叠加。
3.2 “吃维生素片”的教训:生成数据必须警惕分布偏移
世界模型不是万能的,甚至是危险的。合成的数据充满“仿真气质”,说得玄一点就是生成分布和真实分布之间存在系统性差异。模型如果大量使用纯生成数据训练,完全可能学到的是生成器的噪声和统计特征,而不是物理因果:它可能对“仿真里出现的逆行卡车”很敏感,对“真实世界里形态差不多的逆行卡车”依然无感,就像学生背熟了题库,高考换个问法就抓瞎。
我在GTC’26的交流里听到一个很形象的类比:真实数据是吃饭,合成数据是吃维生素片。维生素片能在缺乏维生素时应急,但长期只靠维生素片,人一定营养不良。具体到实践上,我比较认同的做法是“虚实混编”:真实数据作为主分布打底,合成数据作为长尾补充,合成数据还要经过真实数据域校准——比如用真实视频对生成结果做相似度过滤,差异过大就不进训练集。另外,合成数据最好按照“难例重要性采样”的原则去生成,而不是平均撒网,不然浪费算力不说,还可能把模型带偏。
3.3 三种世界模型打法的取舍
展会上聊下来,世界模型的应用大致分成三条技术路线,各有适用面:
| 路线 | 原理 | 优点 | 短板 |
|---|---|---|---|
| 纯生成 | 直接用扩散/重建模型从随机噪声生成视频 | 场景自由度大 | 物理真实性难保证,需要大量验证 |
| 轨迹注入 | 基于真实街景重建3D背景,只把车辆/行人行为轨迹替换 | 背景真实,接地气 | 受限于重建质量,动态目标多样性不够 |
| 虚实混编 | 真实数据开集 + 合成数据闭集,按难例权重混训 | 兼顾真实感和长尾 | 工程链路复杂,数据版本管理难度大 |
这三条路线不冲突,未来大概率会走向融合。从资源投入效率来看,刚启动端到端项目的团队最好先把“轨迹注入”做好——毕竟拿真实场景做底,可信度比纯生成高,坑相对少。纯生成和世界模型的前沿探索可以投入预研,但别指望它明天就能替代真实路测。
4. 车端平台与底盘控制:端到端落地的物理边界
4.1 传感器和算力方案正在被模型反向定义
端到端模型上车,绕不开算力。模型从云端训练到车端部署,中间隔了量化、剪枝、蒸馏一系列瘦身操作。GTC’26展区最拥挤的角落里,大家都在问同一类问题:“现在车端的百TOPS级算力平台,能跑多大的模型?几个摄像头的前融合效果够不够?”这个问题的答案直接决定车型配置和成本。
一个明显趋势是传感器数量在收敛。过去不少厂家喜欢堆摄像头、毫米波、激光雷达,端到端时代大家开始讲“后面融合金字塔”:车端先用一个统一骨干网络做BEV特征,再在这个特征上接不同的下游任务。传感器的回传信号共享主干计算资源,直接降低了对传感器数量翻倍就会增加算力负担的焦虑。当然,激光雷达是否必配依然存在路线之争,但更多厂商的共识是“算力平台要预留足够升级空间”,因为端到端模型的体量还在涨。
4.2 大模型输出和方向盘之间,隔着一整条底盘控制链
这里想强调一个容易被算法工程师忽略的点:模型输出的轨迹,不是一个可以直接发给电机的信号。车要沿着轨迹走,需要经过路径跟踪、速度规划、横纵向控制、底盘执行这几个环节。方向盘的转向执行器有时延,刹车踏板有液压和响应延迟,轮胎的摩擦极限也有约束。模型规划出一条很漂亮的弧线,底盘能不能在三维空间里稳定跟住,是另一码事。
我在自己的项目里反复吃过这个亏。模型在仿真里输出轨迹时,几乎不会考虑转向执行器的响应延迟,但实车跑到动态极限工况,轨迹跟踪误差会被放大,产生明显的“画龙”或者转向不足的感觉。后来的解决思路是两层解耦:第一层,模型输出带速度约束的粗规划轨迹;第二层,底层车辆动力学控制模块负责稳定贴合轨迹,同时通过模型预测控制等优化手段平衡舒适性和稳定性。端到端模型在这样一层物理网关之下工作,才能保证它学到的“驾驶感”真正传到车轮上。
4.3 可解释性与安全监控:黑盒不是免责理由
端到端模型的另一个现实问题是黑盒。车辆在行驶中,开发团队无法实时知道模型为什么选择某条轨迹。面对这种情况,工程界的应对不是非黑即白地追求“完全可解释”,而是建立一套交叉验证的安全监控机制。
常见做法包括:用轻量化的规则基线模型持续计算一个“保守安全包络”;再用一个监控模型判断端到端模型的输出是否偏离常识性可行驶区域;一旦偏离,安全仲裁层立刻接管或降级。展示里的一张架构图让我印象很深:端到端主模型、安全监控模型、规则基线、底盘执行器四层并行,任何一层监测到异常,系统都会进入受限驾驶模式或最小风险策略。这套机制的作用是把模型的“自由发挥”关在笼子里,让黑盒变得可控。这也是未来端到端量产能否过安全评估的核心。
5. 算法工程师的私人判断:主线是系统工程的闭环
5.1 嘴上说的是模型,手里拼的是闭环
回到标题的问题:端到端时代,自动驾驶的主线到底是什么?在GTC’26逛了两天,我的答案是:主线从来不是某一个具体模型结构,而是“数据—模型—车端平台—运行反馈”构成的系统工程闭环。
一条清晰的主线是:高质量数据源端(真实车队回传加世界模型生成)喂给大模型主框架;云端大规模训练并持续迭代;训练好的模型经过量化蒸馏部署到车端,与底盘控制和安全仲裁组合成完整驾驶系统;量产车队再把真实运行中的难例数据回流到云端,开启新一轮训练。这个闭环里,任何一个环节脱节都会成为木桶的短板——模型再好,数据闭环转不起来,就是纸面精度;数据闭环完善,车端平台跟不上,模型下不了地;车端平台到位,安全监控跟不上,量产出不了门。
我相信这也是越来越多团队把“数据平台”“仿真平台”“模型迭代平台”并列起来投资的原因。一个端到端系统要真正跑起来,拼的是这套复合系统的工程效率和迭代速度,而不是单一技术点上的短期领先。
5.2 给同行们一句实在话:看懂闭环比追新词重要
展会散场那天,我和几个做量产的朋友在酒店大堂聊到很晚,最后沉淀下来的观点大体一致:端到端这个词一定会越来越“常态化”,二十年后可能没人再单独提端到端,就像今天没人强调“我在用深度学习”一样。而当下这个窗口期,真正值得算法工程师花时间的,是搞懂数据怎么闭环、评价怎么定义、底盘怎么配合、安全怎么兜底。这些“不那么性感”的工程问题,恰恰是决定自动驾驶公司能不能把Demo变成产品的关键。
对我自己来说,GTC’26最大的收获不是哪个新模型惊艳到了我,而是我终于能从纷繁的技术名词里抽身,重新确认了一个朴素的事实:自动驾驶是一场长跑,端到端只是接力赛里的新一棒。谁能在数据、模型、平台、安全之间持续地跑完一圈又一圈,谁才可能笑到最后。这条路没有捷径,但选对主线,至少不会跑偏。