研究已经进入实体机器人
DayDreamer 论文报告用 Dreamer 在四个机器人平台上直接在线学习;V-JEPA 2-AC 则在预训练视频表征之上训练动作条件预测器。两项研究都让预测进入机器人学习或规划,但训练条件和检验的问题不同。
来源:原始报告 ↗
已有结果发生在特定机器人、数据和任务条件下。它们还没有证明同一模型可以不经准备就适用于任意机器人。模型何时学习、使用多少目标设备数据、预测怎样影响动作,都关系到结果能否迁移。
预测如何影响下一步动作
机器人观察环境,预测候选动作可能带来的变化,选择并执行动作,再依据反馈更新下一步。DayDreamer 在学习到的内部世界里进行想象式策略学习;V-JEPA 2-AC 预测未来视频观测的表征。两者把预测接入行动的方式不同。
来源:原始报告 ↗
- 观察:图像、历史帧或机器人自身状态进入系统。
- 预测:候选动作对应未来状态或表征。
- 选择与执行:策略使用预测决定下一步,再接收真实反馈。
DayDreamer:在真实硬件上边试边学
DayDreamer 论文报告在四个机器人平台上直接在线学习。其中四足机器人一次实验在约一小时内学会翻身、站立和行走。这里报告的是各项真机实验,不能理解为同一套权重在不同机器人之间零样本迁移。
来源:原始报告 ↗
真机在线学习需要承担试错成本。作者提醒,长时间在硬件上训练会造成磨损,可能需要人工干预或维修。训练时间、奖励设置、设备和维护条件都影响实验结果的可比较性。
V-JEPA 2-AC:把动作预测器接在视频表征之后
V-JEPA 2-AC 的论文描述了另一种训练顺序:预训练视频编码器并冻结,再用机器人视频训练动作条件预测器。它接收过去的视频帧、动作和末端执行器状态,预测未来观测的表征。论文也指出,自回归预测的误差累积会影响长时程规划。
基础 V-JEPA 2 的表征能力、动作预测器的性质与具体任务结果属于不同层面的证据。讨论机器人能力时,需要把训练数据、动作接口和目标硬件分别交代清楚。
从实验结果到通用能力还有多远
- 是真机、仿真,还是离线视频预测?
- 同一权重直接迁移,还是在目标机器人上重新训练或调整?
- 报告了多少次任务尝试、怎样处理失败和硬件干预?
- 结果来自开发团队的协议,还是有外部团队在相同任务中复核?
这两项研究展示了真机学习与动作条件预测的具体做法。跨硬件迁移、长时间任务和独立复核还需要分别提供证据,不能从现有实验直接推到通用机器人能力。