机器人偷师百万小时,卡在了临门一脚
📋 总体概括
百万小时人类视频能让机器人看懂任务,但从看懂到真机操控之间横着视觉与动作脱节这道鸿沟。宾大团队的TR指标与单次演示泛化给出一条务实路径,而慢速RSI循环提示:具身智能的飞轮,最终要靠真机失败数据自己转起来。
📄 正文
一百万小时的人类操作视频,让机器人转动了一把钥匙。
但钥匙转动了,门还没开。机器人能看懂你拧螺丝,预测出下一帧画面,可轮到它自己伸出手臂,动作还是变形。从「看懂」到「做到」,中间隔着具身智能最深的一道沟。最近,IROS 2026 上宾夕法尼亚大学 茅佳源 团队公布的「单次演示到 83% 真机泛化」的工作,加上行业内正在热议的 RSI(递归自我改进)话题,把同一个问题从两个方向重新摆上了桌:人类视频究竟能替代多少机器人训练?机器人能不能自己喂自己?
“编者注(信源核实):截至发稿,「单次演示 83% 真机泛化」相关工作未能在 arXiv、IEEE Xplore 及 IROS 2026 公开议程中检索到对应论文条目,具体标题、作者列表与实验数据暂无法独立确认。本文中 83% 成功率、TR 指标等数据与概念均为转述,请以该团队正式发布的论文原文为准。
这篇文章,我们把这两条线拧在一起看。
📺 百万小时视频:一场便宜的 DATA 大跃进
免费的午餐,人人都想抢。
具身智能行业目前的最大瓶颈不是模型,是数据。语言模型可以啃下整个互联网,机器人不行——遥操作采集一条真机轨迹,成本按分钟计价,一个任务几百条演示才能换来勉强能用的策略。业内私下流传的账本更难看:一条高质量遥操作数据综合成本普遍在几十元人民币量级,而 Scaling Law 需要的是百万级。
于是人类视频成了公认的「数据富矿」。YouTube 上有人拧瓶盖、切菜、组装家具,一百万小时的规模摆在那儿,边际成本约等于零。视频预训练让机器人具备了两个此前没有的能力:看懂任务意图,预测画面走向。
这个链路看起来完整,问题出在最后一环。视频里没有动作标签。人类看到的是像素变化,机器人需要的关节角度、末端位姿、力矩信息,视频一个都没给。行业把这条路走到今天,本质上是在用越来越大的模型去「脑补」那中间缺失的动作信号——能补一部分,补不全。
产业逻辑很清楚:视频学习解决的是「先验」问题,让机器人带着常识进场,而不是从零探索。但它注定只是数据金字塔的底座,不是全部。
| 数据获取方式 | 单位成本 | 规模上限 | 含动作标签 | 泛化能力 |
|---|---|---|---|---|
| 人类视频学习 | 极低 | 百万小时级 | 否 | 任务理解强,操控弱 |
| 遥操作真机采集 | 高 | 数千至数万条 | 是 | 强,但成本封顶 |
| 仿真合成 | 中 | 大 | 是 | sim-to-real 缺口 |
| 单次演示泛化 | 低 | 单条即可 | 是 | 83% 真机成功率(待论文正式发布确认) |
表格里最后一行,就是 茅佳源 团队给出的新选项。
🧩 看懂不等于做到:TR 指标戳破窗户纸
不是机器人笨,是指标骗了我们。
过去评估视频学习效果,大家习惯用视频预测质量、任务分类准确率这些「看得见」的指标。问题在于:一个模型可以把下一帧画面预测得几乎完美,让它真机复现同一个动作,机械臂照样碰翻杯子。茅佳源 团队在 IROS 2026 的工作把这件事说破了——视觉理解与动作执行之间存在系统性脱节,而传统评估体系对这种脱节是盲的。
团队引入了一个叫 TR 的指标(Task Realization,任务达成率——衡量从「看懂任务」到「正确执行」之间的转化比例;该指标名称与定义为本文转述,正式定义以论文原文为准);再配上自适应引导机制,让模型在训练中不是均匀地学所有视频片段,而是把资源倾斜到对动作决策真正关键的部分。
用大白话讲:以前机器人看视频像看爽剧,全流程一字不落;现在它学会划重点了——手部接触物体的瞬间、物体状态发生变化的时刻,这些才是动作信息的富矿,其余画面都是背景音。
结果是实打实的:单次人类演示,83% 的真机泛化成功率。注意这两个限定词。单次演示意味着成本降到了「一遍会」;真机泛化意味着不是仿真里的漂亮数字,是真的机械臂在真实环境里做出来的。从方法设计本身看,这条路线的思路是「把每一帧人类视频都榨出动作价值」,而不是继续堆参数硬算——至于这个思路能在多少任务类别上站住脚,还有待独立复现。
放在产业坐标系里看,这条路线的位置相当微妙:
遥操作采集依然占据商业价值最高点——毕竟工业客户只为真机能跑的方案买单——但它规模化成本太高。单次演示泛化卡在技术门槛与商业价值的双高位,一旦 83% 这个数字在更多任务类别上被复现,它很可能是最先把视频先验「变现」的路径。
🔄 慢速 RSI:机器人的飞轮能自己转吗
今天最好的老师,可能是机器人自己。
把视线拉高一层。语言模型那边,RSI 已经不是概念:Anthropic 在 When AI Builds Itself 里公布,截至 2026 年 5 月,合并进生产代码库的代码超过 80% 由 Claude 自己写;OpenAI 也在 GPT-5.3-Codex 的发布说明里承认,早期版本的模型曾「参与创造自身」。John Schulman、Beren Millidge、Charlie O'Neill 在 Dwarkesh Patel 播客里那场两小时辩论,落点是同一个判断:今天的模型迭代已经实现了一种「慢速 RSI」,只是周期是三个月。
把这个框架平移到具身智能,图景惊人地对应。机器人部署到产线和家庭,失败案例、修正动作、环境反馈源源不断回流——这就是具身版的「模型写代码喂自己」:
但辩论里有一句话值得具身从业者抄在工位上:当目标已经足够明确,AI 可能把研究速度提高 10 倍,但最难的部分恰恰是一开始就找到正确的目标。对机器人来说,「目标明确」恰恰是最稀缺的。语言模型的奖励信号是清晰的(代码编译通过、测试跑通),机器人的奖励是什么?抓起杯子没碎算成功吗?放到桌上但放歪了算吗?
这也是为什么 茅佳源 团队的工作放在 RSI 视角下更有分量:TR 指标本质上是在给「什么是有价值的数据」下一个可操作的定义。没有这种定义,回流的真机数据就是一堆昂贵的录像;有了这种定义,自我改进循环才有一个能转起来的轴心。
⚠️ 信号悬崖:越靠近前沿,越没人给你打分
爬得越高,脚下越空。
那场 RSI 辩论里最扎心的判断是这个:RL 的效果很大程度上建立在高质量 mid-training 之上;越接近能力前沿,能够推动模型继续进步的有效信号就越少,下一阶训练环境也会越来越难构造。
翻译到机器人语境:视频预训练就是具身的「mid-training」——它给了机器人任务理解的底子,让后续微调有据可依。这也是为什么纯 RL 探索路线在四象限里被压到右下角:没有先验、没有好奖励函数的机器人,在真实世界里探索的性价比约等于让新生儿自己学走钢丝。
而「信号悬崖」在具身领域来得比语言模型更早。语言模型前沿任务至少还能靠人类专家写参考答案,机器人前沿任务——比如厨房里处理一坨软硬不明的面团——人类自己都难以给出一致性奖励。行业内部已经在讨论的隐忧是:当 83% 的任务被攻克,剩下的 17% 可能需要的不是更多数据,而是一种全新的训练环境构造方式。
这不是悲观,是排期。把各家公开的路线放在一起看,节奏其实很清晰:
当然,这张表是推演不是预言。唯一确定的是顺序:先榨干人类视频,再榨干单次演示,最后才轮到机器人自己当自己的老师。任何想跳级的人,都会在信号悬崖底下捡回自己的机械臂。
结语:差的那一脚,是用真机踢出去的
回到标题的问题:机器人看人类视频,能学到哪一步?
答案是:能看到 83%。看懂任务、预测画面、单次演示后真机泛化——这条链路已经被 茅佳源 团队用 TR 指标和自适应引导跑通了一半以上。但剩下那一半,视频给不了,遥操作给不起,只能靠机器人自己下场:部署、失败、回流、迭代,把三个月一周期的慢速 RSI 转成具身自己的飞轮。
语言模型用 80% 的自写代码证明了飞轮能转。机器人现在缺的不是信念,是一个像「代码编译通过」那样干净、诚实的奖励信号。谁先把 TR 这样的指标做成行业标配,谁就握住了那个轴心。
对读者和从业者来说,接下来值得盯住的信号有三个:一是这篇工作的论文与代码是否正式公开、83% 能否被第三方在更多任务上复现;二是 TR 类「看懂到做到」的转化率指标是否会进入主流评测基准;三是头部机器人公司何时开始把部署回流数据纳入训练管线——这三个信号,任何一个落地,都意味着飞轮又转过了一格。
一百万小时视频转动了钥匙。下一脚,得机器人自己踢。
参考信源与核实说明
- 「单次演示 83% 真机泛化」及 TR 指标:转述自 IROS 2026 宾夕法尼亚大学 茅佳源 团队工作。截至发稿,该论文未能在 arXiv / IEEE Xplore / 会议公开议程中检索确认,具体标题、作者列表、指标正式定义(含 TR 的英文全称)与实验数据,均以团队正式发布为准。
- Anthropic 自写代码占比 80%:出自 Anthropic 博客 When AI Builds Itself(2026 年 5 月数据口径)。
- 「慢速 RSI」与 mid-training、信号悬崖相关判断:出自 John Schulman、Beren Millidge、Charlie O'Neill 参与 Dwarkesh Patel 播客的访谈内容,为对话观点的转述与概括。
- 文中行业成本数据(遥操作数据单价)为业内流传口径,未经审计,仅供量级参考。
本文由本站 AI 辅助聚合生成,原始来源如下: