英伟达Rubin Ultra缩水，SemiAnalysis：瓶颈在于每单位带宽成本，而非每单位容量成本

📋总体概括

SemiAnalysis分析称，英伟达将Rubin Ultra的HBM堆叠从12-Hi下调至8-Hi，核心动机不是单纯削减容量成本，而是优化每单位带宽成本。HBM堆叠层数决定容量，带宽取决于堆栈数量、接口宽度与速率，因此减少约三分之一的DRAM裸片用量后，在堆栈和接口配置不变时仍可维持带宽。这反映AI推理时代，持续搬运模型权重和KV Cache对带宽的需求压过了容量堆叠，HBM竞争逻辑正从拼容量转向拼每一美元买到的带宽。