OpenAI用逾10万张GPU训练前沿模型
OpenAI公开称,其最大规模英伟达GB200超级计算机已用于训练前沿模型,集群通过自研多路径可靠连接协议把超过10万张GPU连成同一张训练网。
该公司工程说明写道,一块可接64个800Gb/s端口的交换机,改成512个100Gb/s端口后,仅用两层交换机就能全连接约13.1万张GPU;传统800Gb/s组网则要三到四层。两层结构降低功耗、故障点和网络成本,并在多平面网络上提供冗余,训练作业可在每分钟多次链路抖动中继续跑。
该协议已部署在OpenAI最大的GB200集群上,地点包括得州阿比林与甲骨文云合建的Stargate站点,以及微软Fairwater超级计算机。硬件组合来自英伟达与博通,并与超微、英特尔、微软共同开源协议。训练ChatGPT与Codex所用的近期前沿模型时,运维曾重启四台一层交换机,旧架构下这类操作会直接打断训练。
同期产品线与集群绑定。GPT-5.5在阿比林旗舰站点、甲骨文云上的GB200系统完成训练。公司还把推理侧拆出:自研Jalapeño芯片公布首批InferenceX数据,并与Cerebras推出GPT-5.6 Sol的超快模式。算力组合已从单一微软加英伟达,扩到亚马逊云、超微、博通、Cerebras、CoreWeave、甲骨文、软银与能源方。
已披露的电力合约把需求写成吉瓦。第三方统计称OpenAI签约算力约26吉瓦,其中英伟达约10吉瓦、非英伟达约16吉瓦,后者含超微MI450约6吉瓦与博通定制硅约10吉瓦;非英伟达账面已大于英伟达账面,也大于Anthropic全部已披露组合。xAI的Colossus以12万天内部署10万张、再翻倍到20万张比安装速度;OpenAI用可维持训练的10万张级以太网结构比可用算力。
买方是模型实验室与云厂,抢的是可长时间同步的整网GPU小时,不是单卡标价。卖方是交换机、光模块、电力与机柜供应链。事件驱动来自集群能否在故障下不停训。受益方是能把10万卡级训练变成稳定作业的网络与云,承压方是只能提供碎片化租卡、训到一半掉线的供应商。
来源:公开信息
ABAB AI 解读
OpenAI从租微软GPU起步,把训练规模写成公司战略本身。Sam Altman在2025年先庆祝“远超100万张GPU在线”,再提出为AGI还要再放大两个数量级;落地工具不是口号,而是阿比林Stargate、Fairwater、挪威10万卡规划,以及把网络协议开源给超微、博通、英特尔。历史路径与微软独家绑定松绑同步:算力从单一云转向多云加自研推理芯片,避免下一代预训练卡在一家房东的交付节奏上。
钱流向三处。一是整网级GB200机房,用来把预训练和强化学习后训练做在同一故障域里;二是非英伟达备胎,超微机柜与博通定制硅对冲供货与议价;三是Jalapeño一类推理ASIC,把训练堆出来的参数在服务端用更低瓦时吐出token。动机是训练仍按卡数堆智能,推理已按每瓦吞吐竞争利润。资源输送方式是长期包电、包柜、包协议,而不是买断全部芯片产权——实验室仍主要租用超大规模云的资产。
对照xAI用Colossus证明“能多快插上10万卡”,Meta与谷歌用自有集群把训练留在墙内,Anthropic用亚马逊与谷歌的吉瓦合约换多元供应。OpenAI处在扩张与控制重叠的阶段:对外要更多卡,对内要把卡变成不停训的系统,同时把推理利润从英伟达租电里抠出来。行业已从拼峰值FLOP,进入拼持续可用训练小时。
结构上属于资本集中叠加技术替代。机制是:当前沿模型必须在十万卡同一网络上同步梯度,入口从算法论文改成电力、光模块与二层交换机能否撑住;谁能把13万卡级结构跑稳,谁就决定下一代基座模型的发布时间。卡数是门票,网络与功耗是定价权。
ABAB News · 认知定律
卡数是门票,不停训才是产能
十万卡同一张网,比多十万张散卡更贵
训练拼规模,推理拼每瓦利润