实时机器人控制一直有个两难:要判断物体运动和任务进度,策略得看足够长的视觉历史;可历史一长,推理变慢,动作就跟不上物理世界。NVIDIA 研究团队 10 月 7 日提交到 arXiv 的 Long-WAM 给出的答案是模型与系统一起改:把世界-动作模型的视觉上下文扩到 19.2 秒,同时用一整套推理优化把单步延迟压进百毫秒级。
记忆越长越好,但红利只属于自回归预训练
核心发现:看得见历史,不等于会用历史。它的视频专家从 LongLive2.0-Robot 检查点继续自回归训练,数据是约 1 万「窗口等价小时」的机器人与第一视角视频(RoVid-X、AgiBot World、EgoDex、EgoVerse、VITRA),不带动作标签,做最长 30 秒的下一块预测;之后经不对称注意力接口(Mixture of Transformers)与动作专家耦合,视频查询永远不读动作 token。
收益写在数字里:RoboCasa GR-1 上,观察上下文从 2.4 秒扩到 19.2 秒,成功率从 66.3% 升到 78.7%;LIBERO-Long 上,2.4 秒历史就把成功率从 94.5% 拉到 99.5%。对照组更有说服力——双向预训练的 Wan2.2 初始化,同样喂 19.2 秒只有 61.6%,项目页称「无净增益」。长上下文的红利,属于自回归预训练。边界也标得诚实:扩到 38.4 秒成绩回落,但那里 80.4% 的采样历史帧是 padding(训练轨迹平均仅 12.1 秒),回落反映数据不够,不是记忆上限。
先在潜空间想象未来,再出手
推理走逆动力学(IDM)模式:视频专家从观察历史预测部分去噪的未来潜变量,不解码像素;动作专家以「历史+预测未来」为条件去噪出动作块。真机结果最抓眼:Unitree G1 在传送带上抓移动杯子,3.0/4.5/6.0/7.5 cm/s 四档速度成功率分别为 100/100/95/90%,两个基线在 6.0 与 7.5 cm/s 全军覆没;动态叠杯 19/20(95%),π0.5 与 Fast-WAM 均为 0/20,人类遥操作 50/54(92.6%)。YAM 平台上超过 40 秒的长程任务平均 81.7%。与 GPT-6 Astra 搭档时,同一检查点不加训练,RoboCasa365 总成功率从 31.4% 升到 54.4%,未见过的组合任务从 6.1% 跳到 35.0%。
107.4 毫秒:实时性是系统工程
模型再聪明,超时就废。团队用流式 VAE 编码、纯异步执行、NVFP4 量化、KV 复用、CUDA Graph 加设备级 kernel 调优,把「先预测再行动」全管线在 RTX 5090 压到每动作块 107.4 毫秒(含未来潜变量预测),较 BF16 eager 提速 3.3 倍;DGX Spark 为 328.2 毫秒(4.1 倍),Jetson AGX Thor 为 378.7 毫秒(3.2 倍)。横向延迟对比里,LingBot-VA 要 3618.4 毫秒、Motus 1201.1 毫秒、Fast-WAM 244.1 毫秒。纯异步执行下 RoboTwin 2.0 成功率 94.2%(同步 94.4%),几乎没有损耗。
所以呢
Long-WAM 的意义不止机器人:它给「上下文收益取决于预训练范式」提供了控制领域的对照实验——大模型界卷了两年多的长上下文叙事,第一次有了具身智能版本的量化证据。对做 VLA 的人来说,选自回归视频基座还是双向扩散基座,可能比再堆一个数量级的数据更关键。论文与全部数字见项目页 nvlabs.github.io/LongLive/Long-WAM/ 与 arXiv:2610.10528。