☰
香港中文大学:人形全身操作的三大痛点,WholeBodyWAM 如何破解?
2026/10/15 4:03:29 网站建设 项目流程

目录

01 世界动作模型很能打,但人形全身操作仍是硬骨头

02 核心洞察:不重造,而是「保留+锚定+协调」

1)结构化动作表征(SAF):保留操作通路,另开全身流

2)统一全身控制器接口(UWBC):给异构命令一套共享语义

3)协调感知自注意力(CASA):让操作意图去“指挥”身体

03 实验结果:更高的成功率,更低的跨控制器方差

04 最值得看的一幕:抓取失败后,它自己"挪一下身子"

05 这场分享,你会听到什么?


人形机器人这两年火得不行——能走、能蹲、能比心、能后空翻。可一旦让它去“用整个身体完成一个操作任务”:搬个箱子、取个杯子、开个门,尴尬的事就来了:大多数还只能乖乖站在原地,把活儿交给固定工位的机械臂。

其实不是大家不想做。

把机器人从“桌面操作”推向“全身loco-manipulation(移动+操作)”,横在面前的是三道相互纠缠的坎:

  • 移动、转身、弯腰、伸手必须拧成一股绳。桌面操作里手够不到就够不到;可人形要自己决定“何时、怎么动身体”去配合手上的活,任一环节脱节,任务直接崩;
  • 全身控制器(WBC)各说各话。同一个动作,A控制器里是任务空间目标,B控制器里可能就是关节目标——你能让A干的事,换到B上往往得整套重写;
  • 高质量人形操作示教,太少了。大规模机器人数据能撑起预训练,但“成对的人形全身操作示教”极度稀缺,想直接监督“操作意图—身体调整”的协调关系,无从下手。

如果你也正在做具身智能、人形控制、双臂操作,或者正被上面这些问题卡住:

10月15日晚8点,我们邀请到WholeBodyWAM第一作者、香港中文大学博士生、费曼智核联合创始人兼CTO李卓,带来一场深度直播分享。他会从模型设计、实验验证讲到协同泛化,把上面的痛点逐一拆开——强烈推荐给所有想看懂“如何用有限人形数据扩展具身基础模型”的人。

01 世界动作模型很能打,但人形全身操作仍是硬骨头

最近两年,世界动作模型(World Action Models, WAM)通过联合建模“机器人动作”与“未来视觉动态”,为通用机器人操作提供了可复用的先验。但绝大多数工作都聚焦在桌面或手臂为中心的局部手–物交互,对双足人形广义的loco-manipulation(移动+操作)探索依然有限。

论文把这道坎归结为三个相互耦合的挑战:

① 全身协调复杂度:不仅要生成合理的手–物交互,还要决定“何时、如何”让移动、转身、躯干调整去配合操作;

② WBC 语义异构:不同全身控制器(Whole-Body Controller, WBC)对外暴露的命令接口,物理含义并不一致——相似的动作,在A控制器里是任务空间目标,在B控制器里可能是关节目标,导致动作语义难以复用;

③ 人形数据稀缺:大规模机器人数据能支撑WAM预训练,但成对的人形loco-manipulation示教极度稀缺,直接监督“操作意图—全身调整”之间的协调关系无从谈起。

面对这个缺口,此前的工作大致分成两派(见下图左侧):

(a) 直接扩展动作空间:把预训练桌面WAM的动作接口“拉平”扩展,再整体全身微调。它保住了世界–动作先验,却把“异构WBC语义”和“复杂全身协调”统统甩给有限的微调监督去隐式学习——结果常常是:高层操作意图还在,底层WBC命令却接地很差、时序上也前后不一致;

(b) 单体全身建模:从头学习人形原生的全身WAM,把移动与操作统一进与控制器兼容的隐空间。动作确实连贯,但会把策略预测与特定控制器的约定纠缠在一起,且高度依赖昂贵的大规模全身监督。

图1 | WholeBodyWAM总览:面对“扩展动作接口”与“从零重学全身”两条路线,论文选择第三条路——通过WBC锚定,把预训练WAM的世界–动作先验保留并推广到人形全身操作。

02 核心洞察:不重造,而是「保留+锚定+协调」

论文的核心insight相当克制也很关键:预训练WAM里已经藏着丰富的操作先验,人形全身操作真正缺的,是一层“把操作意图结构化地锚定到异构WBC上”的机制——它能规定“何时、如何”让全身行为配合起来。

围绕这个判断,WholeBodyWAM给出三个互补设计:

图 2 | 模型架构。左:共享Diffusion Transformer从结构化token序列出发,联合生成未来视觉动态、操作动作与UWBC命令。右:CASA依据任务方向手臂可操作性的下降,自适应增强manipulation→UWBC的注意力。

1)结构化动作表征(SAF):保留操作通路,另开全身流

模型在保留预训练WAM的视觉–操作通路的同时,引入一条独立的全身控制流;未来视觉动态、操作动作、UWBC命令这三路token由共享的Diffusion Transformer联合生成。这样既没有丢掉可迁移的操作先验,又让“面向控制器的全身行为”变成一个可被显式指认的量。消融实验里,去掉SAF掉点最多(−11.1),印证了“保住预训练操作通路”的价值。

2)统一全身控制器接口(UWBC):给异构命令一套共享语义

UWBC把五花八门的全身命令按共享物理语义重新组织,规定了一个56维命令向量:

组成维度内容
共享槽位 [0, 46)4616维任务空间命令+15维下肢/腰部关节位置+15维关节速度
残差槽位 [46, 56)10控制器特有命令(含离散控制模式等)

下游控制器只激活“自己具备能力、且已注册语义”的字段,不支持或未定义的字段被mask掉。这样一来,内部“全身意图”与“控制器具体命令约定”被解耦,同一套策略就能更稳定地迁移到不同WBC上。

表 I | UWBC接口槽位规格:共享物理语义字段+控制器特有残差槽位。

3)协调感知自注意力(CASA):让操作意图去“指挥”身体

人形全身协调本质上是有方向性、且依赖当前状态的:当手臂沿任务方向的可操作性下降时,就需要身体做补偿运动。CASA引入一个协调门控gt,衡量“任务方向可操作性”的相对下降程度,并据此自适应地增强manipulation→UWBC的注意力流——手臂越够不着,操作意图就越强力地引导移动、转身与躯干调整。

图3 | Blockwise-Causal Attention with Gated Coordination:在保留原生可见性的前提下,门控偏置选择性地增强每个预测块内的manipulation→UWBC注意力。

三项设计的消融结果(6项仿真任务平均TSR):完整模型91.9%→去掉CASA 86.9%(−5.0)→换成原生SONIC命令84.7%(−7.2)→去掉SAF80.8%(−11.1)。其中CASA的收益在PickBetweenTables(−8.3)和 MoveBendPick(−6.7)这类需要大幅身体重构的任务上更明显。

03 实验结果:更高的成功率,更低的跨控制器方差

仿真:6项任务,平均成功率91.9%。在SIMPLE基准的6项任务×3个扰动等级(L0/L1/L2)下,WholeBodyWAM取得91.9%的整体TSR,分别高出DreamZero+26.9、DreamZero-PT+18.3、Cosmos-3+5.6个百分点,也超过最强 VLA 基线9.7个点。特别值得注意的是DreamZero-PT用的是同一份后训练数据——增益并非"多喂人形数据"能解释,而是来自结构化的WBC锚定与协调。

表 II(论文原表)|仿真任务成功率(%,SONIC控制器)。每项任务报告SIMPLE协议下L0/L1/L2三档结果,含消融行。

跨WBC鲁棒性:方差降低约70%。分别在SONIC、AMO、GEAR三个异构WBC上独立微调后,WholeBodyWAM 取得最高平均 TSR(89.2%)与最低跨控制器方差(10.5pp²),相较基线把方差压低了约70%——意味着换一个底层控制器,性能不会“悬崖式”波动。

图4 |跨WBC评估:横轴为跨控制器方差(越低越稳),纵轴为平均TSR。WholeBodyWAM落在"高成功率+低方差"的理想左上角。

真机:8项任务,分布外泛化更稳。在Unitree G1人形机器人+两只BrainCo Revo 2灵巧手上,论文测试了8项真机任务:

·同分布(ID)平均TSR81.3%(DreamZero 57.5%);

·分布外(OOD)68.8%(DreamZero 40.0%),且ID→OOD掉点更小(12.5 vs 17.5个点);

·任务进度(Task Progress)ID/OOD达到0.92/0.82,优于0.73/0.59。

差距的来源也很清晰:在TableCleanup这类纯操作主导的任务上,两者接近(90% vs 85%);而一旦任务涉及更多身体子系统与协调阶段(如BasketCarry、DoorEntry、BoxTransfer),基线就明显下滑——这正是“把操作与WBC命令当成同质动作维度”的代价。

图6 |真机定性结果:8项真机任务,覆盖操作主导与协调密集型行为(TowelPlace / BasketCarry / TeapotPour / BoxTransfer / CartServe / DoorEntry / TableCleanup / PlantWater)。

图7 |任务进度雷达图:左为同分布(ID),右为分布外(OOD)。

数据效率也很关键。在每任务50/100条示教的低数据预算下,WholeBodyWAM的优势最大——这正是“有效复用预训练世界–动作先验”的直接体现。

图5 |下游微调效率:随每任务示教条数(50/100/200/300)变化的平均TSR。

04 最值得看的一幕:抓取失败后,它自己"挪一下身子"

论文里最打动人的,是OOD设置下的一个涌现行为。在TowelPlace任务中,把毛巾支架沿+X方向外移10cm,毛巾就落到了初始手臂工作空间之外:

失败→调整身体→再抓,成功:

·第一次伸臂抓取→失败;

·模型没有在原地硬试,而是向前迈一小步+旋转/调整躯干,把可达范围延伸出去;

·第二次尝试→抓取成功。

关键在于:这段"失败→调整身体→再抓"的恢复序列,在训练示教中从未出现过。作者把它解释为——预训练WAM的操作先验,与增强的全身协调机制耦合之后涌现出来的行为。这也正是“用有限人形数据扩展具身基础模型”最令人兴奋的地方。

图8 |全身协调泛化:毛巾支架外移10cm后,WholeBodyWAM通过向前重定位与身体旋转,从抓取失败中恢复并二次抓取成功。

05 这场分享,你会听到什么?

1)从桌面操作到人形全身协同:世界动作模型的能力基础、控制难点与数据瓶颈;

2)WholeBodyWAM 模型设计:保留预训练操作先验,通过 UWBC 统一异构全身控制器的指令语义;

3)CASA 协调机制:根据手臂可操作性变化,让操作意图引导移动、转身与躯干调整;

4)实验结果与协同泛化:仿真及真机表现、跨控制器鲁棒性,以及训练示教中未出现的身体调整与再次抓取行为。

无论你是正在做 VLA / WAM 的算法同学,还是在人形全身控制、双臂操作方向上的工程师,这场分享都值得一听——它讨论的不只是一个模型,更是“如何用有限的人形数据,去扩展一个可复用的具身基础模型”这条路线的可行性。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询