天价内存把大厂逼成垃圾佬！拆退役服务器抠DDR4用

⚡关键信息

• ▸谷歌高管称AI行业已从算力受限转向内存受限，高性能内存约占单台AI服务器物料成本的75%。
• ▸谷歌建立内部回收供应链，专门重新导入退役服务器，拆取其中的DDR4内存模组循环使用。
• ▸谷歌设计了硬件转接器，使本应使用DDR5的新一代AI服务器在部分情况下降级使用回收的DDR4。
• ▸软件端谷歌持续优化底层函数库、模型架构和KV Cache压缩技术，降低单位算力内存消耗。
• ▸谷歌今年推出TPU8t（训练）和TPU8i（推理），后者单芯片配288GB HBM3e、8.6TB/s带宽及384MB片上SRAM。