具身智能
TinyAstral:将自我进化的harness迁移至微型通用操作智能体
原标题: TinyAstral:将自我进化的harness迁移至微型通用操作智能体
📋总体概括
研究团队提出TinyAstral,一种两阶段方法,解决大型VLM机器人代理依赖的harness(工具、反馈、记忆与恢复逻辑)难以迁移到小模型的问题。先用递归自我改进(RSI)优化冻结的开源教师模型harness——由前沿LLM代理阅读轨迹并提出harness修改,仅通过配对统计检验的修改被接受;再冻结harness并蒸馏出小模型学生替换教师。在RoboTwin基准上,harness进化将教师成功率从33.4%提升至63.6%,最终4B学生达到62.8%,以极低推理成本逼近教师水平。
⚡关键信息
- ▸提出TinyAstral两阶段方法:先优化教师harness,再蒸馏小模型学生复用同一harness
- ▸递归自我改进(RSI)由前沿LLM代理读取教师轨迹并提出harness编辑,须通过配对统计检验才被接受
- ▸RoboTwin基准上harness进化使教师成功率从33.4%跃升至63.6%,接近翻倍
- ▸最终4B参数学生模型达到62.8%成功率,几乎追平教师,推理计算成本大幅降低
- ▸核心思路:harness而非模型本身承载了大部分智能表现,可被剥离并转移
🔥犀利点评
这篇工作最锋利的一刀是把「智能」从模型里剥离出来:63.6%的成绩里,模型没变,变的只是外围的harness。这等于承认当前VLM机器人代理的一大半能力是脚手架撑起来的。对堆参数的厂商是个尴尬信号——先问你的harness进化了吗,再谈模型多大。当然RoboTwin是仿真基准,真实世界杂乱度下这套统计检验式的保守编辑策略能否扛住,还是未知数。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 arXiv cs.RO 论文 阅读全文 →