模仿学习
机器人学习领域的主流范式,让智能体通过观察专家示范来习得策略,无需手动设计奖励函数,在机器人操控领域得到广泛应用
核心事实
时间轴 (近 90 天)
行为克隆直接把观测映射到动作,实现简单但存在分布偏移问题——机器人一旦偏离演示轨迹,误差会累积放大。
该智能体的训练完全基于强化学习,没有使用任何人类数据,也不涉及模仿学习。
对实验室场景而言,示范数据的质量、动作空间的表示方式以及视觉—本体感知的对齐,是决定模仿学习能否落地的关键。
模仿学习是机器人学习的一个分支,核心思想是让机器人从专家示范中直接学习策略,而非依赖手工编写的控制程序或纯试错强化学习。
贾萧松认为模仿学习能让模型从0分做到90分,强化学习去啃剩下的10分,两者并非替代关系;完全从零开始的强化学习收敛极慢。
贾萧松认为如果训练仍以模仿学习为主,换架构并不能绕开模仿学习的固有问题;有价值的方向包括筛选有价值的数据、超越暴力模仿学习、设计更有效的奖励信号、让模型同时强化学习成千上万个技能。
这种运动学先验在强化学习和模仿学习两种训练范式下都会出现,可能反映了与人形具身形态相关的共性知识,而非某种优化过程特有的产物。
未来如果加入课程学习或模仿学习,智能体的表现可能进一步提升。
模仿学习(Imitation Learning)是一类让机器人从人类演示中直接学习策略的方法,通过行为克隆或扩散策略等方式将观测映射到动作,其核心优势是样本效率高,但分布外泛化能力弱。
与传统强化学习相比,模仿学习通常只需几十到几百条演示轨迹就可能让机械臂学会抓取与放置,而强化学习通常需要在仿真环境中定义奖励函数并让智能体反复试错,样本量动辄百万级。
还有 14 条时间轴事件
全部知识事实 (20)
行为克隆将策略学习转化为监督学习问题,以环境状态为输入、专家动作为标签,训练从状态到动作的映射函数
75%已验证行为克隆存在分布偏移(Distribution Shift)问题,模型在训练分布外状态下容易犯错并累积误差,机器人控制领域称为复合误差
70%已验证模仿学习的核心思想是让机器人通过观察专家演示来习得行为策略,而非依赖大量试错,主要技术路线包括行为克隆(BC)和逆强化学习(IRL)
65%已验证行为克隆属于模仿学习的最简形式,直接学习状态到动作的映射,而不像逆强化学习(IRL)那样推断专家的奖励函数
65%待验证现代AI机器人通常依赖强化学习来训练运动控制策略
60%待验证行为克隆直接把观测映射到动作,实现简单但存在分布偏移问题——机器人一旦偏离演示轨迹,误差会累积放大。
50%待验证该智能体的训练完全基于强化学习,没有使用任何人类数据,也不涉及模仿学习。
50%待验证对实验室场景而言,示范数据的质量、动作空间的表示方式以及视觉—本体感知的对齐,是决定模仿学习能否落地的关键。
50%待验证模仿学习是机器人学习的一个分支,核心思想是让机器人从专家示范中直接学习策略,而非依赖手工编写的控制程序或纯试错强化学习。
50%待验证贾萧松认为如果训练仍以模仿学习为主,换架构并不能绕开模仿学习的固有问题;有价值的方向包括筛选有价值的数据、超越暴力模仿学习、设计更有效的奖励信号、让模型同时强化学习成千上万个技能。
50%待验证贾萧松认为模仿学习能让模型从0分做到90分,强化学习去啃剩下的10分,两者并非替代关系;完全从零开始的强化学习收敛极慢。
50%待验证这种运动学先验在强化学习和模仿学习两种训练范式下都会出现,可能反映了与人形具身形态相关的共性知识,而非某种优化过程特有的产物。
50%待验证与传统强化学习相比,模仿学习通常只需几十到几百条演示轨迹就可能让机械臂学会抓取与放置,而强化学习通常需要在仿真环境中定义奖励函数并让智能体反复试错,样本量动辄百万级。
50%待验证模仿学习(Imitation Learning)是一类让机器人从人类演示中直接学习策略的方法,通过行为克隆或扩散策略等方式将观测映射到动作,其核心优势是样本效率高,但分布外泛化能力弱。
50%待验证在机器人演示采集中,错误的手部重建会直接误导下游的模仿学习策略,使机器人学到人类从未做过的动作,且这类数据本身的错误不会在训练损失上明显暴露。
50%待验证现有从视频学习灵巧操作的方法大多停留在模仿层面,严格匹配视频中的动作轨迹,导致面对新的物体初始位姿、目标位姿或抓取方式时迅速失效。
50%待验证在人类如何对齐儿童的问题上,模仿学习可能比强化学习更为根本。
50%待验证模仿学习中数据质量和演示一致性直接决定策略的表现
50%待验证FireFly 当前的训练流程以模仿学习/行为克隆为主,通过记录画面观测和玩家操作训练策略
50%待验证模仿学习与强化学习的结合使控制策略开发从逐条编写规则演变为从示范中学习
50%