资讯
内存还凭啥大涨价 DS V4.1 Flash优化之神:HBM、SSD用量暴跌75%以上
📋总体概括
DeepSeek发布V4.1 Flash,采用Causal-Encoder-Decoder全新架构,5520亿主干参数外挂1960亿参数Engram条件记忆,输入激活仅80亿参数。通过KV Cache主缓存改FP4并跨层复用,每Token全局KV降至890字节,约为V4 Flash的1/4,SSD与内存中缓存进一步降至约1/8。推理速度达500-600Token/s,为V4 Flash的3-4倍,API缓存命中价格降60%,用户综合成本约减半,直击当前因AI需求暴涨5-10倍的内存与SSD涨价痛点。
⚡关键信息
- ▸V4.1 Flash采用Causal-Encoder-Decoder全新结构,5520亿主干参数加1960亿参数Engram条件记忆,输入激活仅80亿参数
- ▸KV Cache主缓存改为FP4并跨层复用,每Token全局KV降至890字节,约为V4 Flash的1/4,SSD/内存缓存降至约1/8
- ▸HBM与SSD用量仅为此前的1/4到1/8,直接冲击过去一年因AI需求暴涨5-10倍的存储涨价逻辑
- ▸推理速度达500-600Token/s,是V4 Flash的3-4倍;API缓存命中价格降60%,用户综合使用成本约减半
🔥犀利点评
这版本质上是拿工程优化硬刚算力与存储的通胀。别人靠堆HBM涨价维持壁垒,DeepSeek用FP4加跨层复用把KV Cache砍到1/8,等于宣布存储瓶颈可以用架构和量化绕过去,这直接动摇了存储厂商吃AI红利的定价底气。成本减半加速度翻倍,卷的已不是模型能力而是单位Token经济账——大模型竞争正式进入基建降本期,靠卖显存和SSD躺赚的好日子该醒醒了。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →