资讯
消息称美光正探索开发近GPU NAND闪存以运行更大的LLM
📋总体概括
据新浪财经报道，美光正探索开发「近GPU NAND」闪存方案，将高耐久性NAND闪存模块部署在更靠近GPU的位置，用于处理不需HBM或常规DRAM高带宽、低延迟的负载。该架构追求密度与耐久性兼顾，重点提升I/O速度、带宽和读取速度，目标是让GPU直接访问数百GB存储池，缓解LLM运行受限于内存的问题。这是内存墙背景下存储分层的一次新尝试。
⚡关键信息
- ▸美光正探索「近GPU NAND」架构，将高耐久性NAND闪存部署在更靠近GPU的位置。
- ▸该方案面向无需HBM/DRAM级低延迟、高带宽的工作负载，兼顾密度与耐久性。
- ▸技术重点在于提升I/O速度、带宽和读取速度，密度低于传统TLC/QLC NAND。
- ▸目标让GPU直接访问数百GB存储池，缓解LLM运行时的内存容量限制。
🔥犀利点评
内存墙卡LLM脖子，HBM又贵得离谱，美光想用便宜NAND填中间层，方向没错——存储分层本就该重建。但把NAND放GPU旁边不等于解决问题：NAND的读写 endurance和延迟天生不如DRAM，AI推理中反复读权重的场景能否扛住磨损、延迟抖动会不会拖慢训练，这些没说清之前，「数百GB存储池」更像营销话术。这是对CXL和闪存直连路线的正面回应，胜负要看实测P99延迟，而不是PPT架构图。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 36氪快讯 阅读全文 →