英伟达正把AI基础设施的布局从训练侧延伸到推理侧。公司与Equinix、Together AI达成合作,面向企业客户提供开放模型推理服务,试图把模型训练、部署和运行环节连成一体。
三方分工明确
Equinix负责数据中心托管,Together AI提供推理平台,英伟达则提供GPU和软件栈。合作的目标,是让企业能直接运行开放模型的推理工作负载,而不是只依赖少数头部模型厂商。
这笔合作也被视为英伟达在推理生态上的补位。英伟达此前已在训练侧建立优势,如今进一步向企业级推理场景延伸,扩大其算力生态覆盖面。
推理业务权重上升
英伟达首席执行官黄仁勋近期公开强调开源AI的重要性。公司投资者会议还提到,约18个月前,训练与推理收入大致各占一半,如今推理收入已超过训练,且差距预计还会扩大。
新兴云服务商贡献的AI计算基础设施收入也已超过50%,显示AI算力需求正从传统超大规模云厂商向更广泛的生态扩散。
补充信息:英伟达此前还通过技术许可协议引入Groq核心团队及其LPU技术,并计划在下一代Vera Rubin架构中融合相关能力。












