决策模型也有专用推理引擎了：StartLux 开源 Prism，单卡最高提速 5.3 倍

📋总体概括

初创公司StartLux开源了决策模型专用推理引擎Prism，针对机器人决策类模型优化推理流程，官方数据显示单卡最高可实现5.3倍提速。这填补了大模型推理优化领域的一个细分空白——此前主流推理引擎多面向语言模型，而机器人决策模型对低延迟、高频推理的需求与LLM截然不同。Prism的开源为具身智能公司提供了可自部署的推理加速方案，有望降低机器人系统的算力门槛。