英伟达补齐推理侧闭环:联手Equinix与Together AI,向企业开放模型推理
📋总体概括
英伟达联手全球最大数据中心托管商Equinix与AI推理平台Together AI,向企业客户开放开放模型推理服务:Equinix负责托管、Together AI提供推理平台、英伟达提供GPU与软件栈。此举将英伟达的算力版图从训练侧延伸至推理部署侧,补齐生态闭环。英伟达投资者会议披露,约18个月前训练与推理收入各占一半,如今推理收入已超训练且差距预计扩大。黄仁勋亦公开力挺开源AI,逻辑是模型繁荣带动算力需求。
⚡关键信息
- ▸英伟达与Equinix、Together AI合作,三方分工为托管、推理平台、GPU与软件栈,直接面向企业级推理
- ▸据英伟达投资者会议,约18个月前训练与推理收入各半,如今推理收入已超过训练且差距预计扩大
- ▸合作聚焦企业运行开放模型推理负载,而非局限于少数头部模型厂商
- ▸Equinix借此次绑定在万亿美元级AI数据中心热潮中切入企业级开放模型推理的差异化定位
- ▸黄仁勋近期撰文力挺开源AI并获多家主要AI公司联署,视开源模型为GPU算力需求的互补品
🔥犀利点评
这套组合拳的本质很简单:训练市场见顶之后,推理才是真金白银的长期饭票。英伟达不下场做云,而是用GPU加软件栈绑定Equinix的机房和Together AI的平台,把自己嵌进企业推理链条的每一环,客户跑什么模型不重要,反正都跑在它的卡上。对Together AI来说,傍上英伟达是生存;对Equinix来说,是传统托管业务在AI时代找存在感。真正的赢家只有一个——黄仁勋的CUDA护城河又宽了一截。
英伟达正把AI基础设施的版图从训练侧延伸到推理侧。
周三,英伟达与全球最大数据中心托管商Equinix及AI推理平台公司Together AI达成合作,联合为企业客户提供开放模型推理服务,补上从模型训练到推理部署的最后一环。
按照三方分工,Equinix提供数据中心托管,Together AI提供推理平台,英伟达提供GPU及软件栈。三方把硬件、软件与托管能力打包,直接切入企业级AI应用的推理环节。
这一合作是英伟达在推理侧生态的关键补位。公司此前在训练侧已建立起领先地位,如今借开放模型推理向企业客户延伸,进一步拓宽其算力生态的覆盖面。
对Equinix而言,此次合作同样意味着它在万亿美元级的AI数据中心建设热潮中,找到了企业级开放模型推理这一差异化切入点。
三方分工:托管、平台与算力的组合
在此次合作中,Equinix负责数据中心托管,Together AI提供推理平台,英伟达提供GPU及软件栈。
在万亿美元级的AI数据中心建设热潮中,Equinix作为全球最大数据中心托管商,通过与英伟达和Together AI的绑定,将自身定位聚焦于企业级开放模型推理这一细分领域,成为这轮合作中同样受关注的受益方。
三方合作的核心目标,是帮助企业客户运行开放模型的推理工作负载,而非将算力局限于少数头部模型厂商。
英伟达押注开放模型的逻辑清晰。首席执行官黄仁勋近期发表公开文章阐述开源AI的重要性,获得几乎所有主要AI公司联署。在其看来,AI模型和应用是英伟达GPU的互补品,开源模型的繁荣意味着更准确、更广泛的算力需求。
推理收入已超训练,英伟达补上闭环
据英伟达投资者会议透露,约18个月前,英伟达的训练与推理收入大致各占一半;如今推理收入已超过训练,且这一差距预计将继续扩大。
与此同时,新兴云服务商贡献的AI计算基础设施收入已超过50%,增长动力正从传统超大规模云厂商向更广泛的AI算力生态扩散。
在训练与架构侧,英伟达此前已密集落子。
通过技术许可协议引进Groq核心团队及其 LPU 技术,并计划在下一代Vera Rubin 架构(Groq 3 LPX) 中深度融合 LPU;拟以129亿美元收购开源AI平台Hugging Face。
此次联手Equinix与Together AI,则是英伟达把布局延伸至推理侧的关键一步,使其算力生态覆盖从模型训练到推理部署的完整链条。
风险提示及免责条款 市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。