英伟达换思路！下一代Groq AI芯片放弃超大缓存：改用堆叠内存

📋总体概括

据快科技10月21日消息，以高速SRAM架构闻名的AI芯片公司Groq在被英伟达实质性收购后，正评估在下一代芯片中以3D堆叠DRAM取代传统超大SRAM缓存。方案代号为3DS，核心是利用TSV硅通孔技术在DRAM内部打穿数千个微型孔洞实现垂直互连，将多个裸片像积木一样垂直堆叠，从而在较小芯片面积内大幅提升显存容量和电力传输效率，以应对超大规模AI模型推理需求，标志着Groq架构思路的根本转变。