资讯
押注开源推理!英伟达携手Equinix、Together AI推出企业AI推理方案
📋总体概括
英伟达联手数据中心服务商Equinix与开源推理平台Together AI,在企业AI推理市场推出分布式推理服务Equinix Inference Exchange,于Equinix Horizon大会发布,计划2027年一季度上市。三方分工明确:Equinix提供机房、制冷与互联网络,英伟达输出算力与企业级参考架构,Together AI负责上层开源模型推理。服务主打降低时延、从封闭模型迁往开源以控成本、满足受监管行业数据不出境需求。
⚡关键信息
- ▸Equinix Inference Exchange于Equinix Horizon大会发布,计划2027年第一季度正式上市
- ▸分布式推理将任务拆分到不同地域多台服务器协同计算,让推理能力贴近企业本地数据以降低时延
- ▸英伟达提供企业级参考架构(ERA)与AI基础设施硬件,目标是最大化AI工厂吞吐量、压低单位token成本
- ▸Equinix负责底层电力、制冷、运维,并通过Equinix Fabric互联平台连接云、网络与AI服务商
- ▸三大目标场景:降低时延、开源模型替代封闭模型控成本、受监管行业满足数据不出境合规要求
🔥犀利点评
英伟达这步棋意在推理市场闭环:训练卖卡的故事讲得差不多了,推理才是持续消耗算力的大头。押注开源推理、绑定托管机房,本质是把封闭大模型厂商的护城河撬开一块——企业一旦走开源路线,算力和基础设施全在英伟达体系内消化。但2027年才上市,两年窗口期内推理市场格局会变成什么样没人敢担保,这个发布更像提前占坑而非成熟产品。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 财联社深度 阅读全文 →