具身智能🔥8.0
Show HN: InstinctFlash——在Jetson Thor上实时运行5B世界动作模型
原标题: Show HN: InstinctFlash——在Jetson Thor上实时运行5B世界动作模型
📋总体概括
General Instinct联合创始人Guanming发布开源机器人模型推理框架InstinctFlash（AGPL-3.0），面向Jetson Thor等边缘硬件。仅运行时优化即可带来1.2x至7.9x加速；结合蒸馏少步扩散调度器（将25视觉/50动作步压缩至2/4步）后，LingBot-VA最高加速33.78x。在50个Robotwin2.0任务、每配置1153次评测中，加速版成功率达90.5%，仅比基线92.1%低1.6个百分点，实现5B级世界动作模型在边缘端实时运行。
⚡关键信息
- ▸General Instinct发布开源推理框架InstinctFlash，采用AGPL-3.0许可，专攻机器人模型高性能部署
- ▸在Jetson Thor上，仅运行时优化即可实现1.2x至7.9x加速，无需改动模型精度
- ▸结合少步蒸馏扩散调度器，LingBot-VA从25视觉/50动作步压至2/4步，加速最高达33.78x
- ▸50个Robotwin2.0任务、每配置1153次评测中，加速版成功率90.5%，基线为92.1%，性能损失仅1.6个百分点
- ▸框架当前支持8个VLA模型，已实现5B级世界动作模型在Jetson Thor上实时运行
🔥犀利点评
这可能是机器人具身智能从实验室走向真机部署最缺的一块拼图。大模型VLA的瓶颈早已不在训练而在推理——谁能把5B世界模型塞进边缘硬件实时跑，谁就掌握真机规模化的话语权。90.5%对92.1%的成功率交换33.78倍速度，这笔账任何做真机部署的团队都会抢着算。AGPL-3.0的开源策略也颇有心机：既赚生态声量，又防止云厂商白嫖。边缘推理框架，很可能是下一轮具身智能竞争的隐形战场。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 Hacker News 阅读全文 →