具身智能🔥7.0
商汤开源 SenseNova Loop-9B-Preview:探索以计算深度释放模型潜力
📋总体概括
商汤宣布开源日日新 SenseNova Loop-9B-Preview,这是其面向下一代模型架构的前沿探索之作。该模型采用创新 Looped Transformer 架构,通过引入循环计算来扩展模型的有效计算深度,并探索更充分的信息交互机制,从而提升复杂任务处理能力。凭借这一架构创新,模型在仅 9B 参数规模下实现媲美 27B 参数模型的表现,展示了「以计算深度换参数规模」的新路径。此前 Looped Transformer 探索多停留在学术层面,商汤此举为社区提供了首个可直接日常使用的 9B 级 Looped Transformer 模型。
⚡关键信息
- ▸商汤正式开源 SenseNova Loop-9B-Preview,面向下一代模型架构进行前沿探索
- ▸模型采用 Looped Transformer 架构,通过循环计算扩展有效计算深度
- ▸仅 9B 参数规模即可媲美 27B 参数大小模型的处理能力
- ▸通过更充分的信息交互机制,提升模型在复杂任务上的表现
- ▸此前 Looped Transformer 探索多为学术研究,社区缺乏可日常使用的模型
🔥犀利点评
当全行业还在无脑堆参数时,商汤选择在架构层面另辟蹊径,用循环计算把 9B 模型算出 27B 的效果,这笔账在算力稀缺的当下极具诱惑力。但 preview 版终究是 preview,9B 打 27B 的成色如何、推理时延会不会被循环计算拖累,都得实测说话。开源给社区只是第一步,真正的考验是这条路能否走到生产级。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 雷峰网 阅读全文 →