DeepSeek开源最新推理框架：单集群日吞吐155万亿Token，KVCache可保存7天

📋总体概括

DeepSeek开源其最新推理框架，核心亮点包括单集群日吞吐量达155万亿Token、KVCache可保存7天等特性。这一举措延续了DeepSeek以开源推动大模型基础设施演进的风格，将大幅降低高并发推理场景的部署成本，为具身智能、AI应用等下游领域提供更强的推理底座，也进一步巩固其在开源社区的技术影响力。