具身智能🔥8.0
OGPO:面向可恢复视觉-语言-动作模型的离线目标条件策略优化
原标题: OGPO:面向可恢复视觉-语言-动作模型的离线目标条件策略优化
📋总体概括
arXiv新论文提出OGPO框架,针对当前VLA模型后训练依赖轨迹级监督模仿的缺陷:逐步复现专家动作使策略偏向示范特定动作路径,一旦执行偏离就缺乏回到任务进度状态的恢复能力。OGPO不再把离线示范仅当逐步动作标签,而是自适应地用语义关键状态重标注轨迹,构建目标条件过程奖励来优化策略,从而让视觉-语言-动作模型学会偏差后的自我恢复,提升真实操作场景中的鲁棒性。
⚡关键信息
- ▸OGPO是面向VLA模型后训练的离线目标条件策略优化框架
- ▸指出现有后训练主要依赖轨迹级监督模仿,逐步复制专家动作存在路径偏置
- ▸该方法对离线轨迹自适应重标注语义关键状态而非仅作逐步动作标签
- ▸构建目标条件过程奖励,引导策略向任务进度状态恢复
- ▸核心价值在于提升执行偏离示范轨迹后的纠错与恢复能力
🔥犀利点评
这篇论文点中了VLA后训练的真痛点:模仿学习教的是「怎么走这条路」,而不是「迷路了怎么找回目标」。把示范从动作标签升级为关键状态+目标条件奖励,本质上是把过程监督引入VLA后训练,思路干净且实用,因为离线数据不需要额外真机交互。但关键状态的重标注质量与奖励设计是否稳健,才是能否走出论文的关键,得看真机实验说话。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 arXiv cs.AI 论文 阅读全文 →