资讯

押注开源推理!英伟达携手Equinix、Together AI推出企业AI推理方案

财联社深度·2026/9/3 08:46:06🔗 原文

📋总体概括

英伟达联手数据中心服务商Equinix与开源推理平台Together AI,在企业AI推理市场推出分布式推理服务Equinix Inference Exchange,于Equinix Horizon大会发布,计划2027年一季度上市。三方分工明确:Equinix提供机房、制冷与互联网络,英伟达输出算力与企业级参考架构,Together AI负责上层开源模型推理。服务主打降低时延、从封闭模型迁往开源以控成本、满足受监管行业数据不出境需求。

关键信息

  • Equinix Inference Exchange于Equinix Horizon大会发布,计划2027年第一季度正式上市
  • 分布式推理将任务拆分到不同地域多台服务器协同计算,让推理能力贴近企业本地数据以降低时延
  • 英伟达提供企业级参考架构(ERA)与AI基础设施硬件,目标是最大化AI工厂吞吐量、压低单位token成本
  • Equinix负责底层电力、制冷、运维,并通过Equinix Fabric互联平台连接云、网络与AI服务商
  • 三大目标场景:降低时延、开源模型替代封闭模型控成本、受监管行业满足数据不出境合规要求

🔥犀利点评

英伟达这步棋意在推理市场闭环:训练卖卡的故事讲得差不多了,推理才是持续消耗算力的大头。押注开源推理、绑定托管机房,本质是把封闭大模型厂商的护城河撬开一块——企业一旦走开源路线,算力和基础设施全在英伟达体系内消化。但2027年才上市,两年窗口期内推理市场格局会变成什么样没人敢担保,这个发布更像提前占坑而非成熟产品。

本文由本站自动聚合,以下为原始来源:前往 财联社深度 阅读全文