OpenAI用逾10萬張GPU訓練前沿模型
OpenAI公開稱,其最大規模英偉達GB200超級計算機已用於訓練前沿模型,集羣通過自研多路徑可靠連接協議把超過10萬張GPU連成同一張訓練網。
該公司工程說明寫道,一塊可接64個800Gb/s端口的交換機,改成512個100Gb/s端口後,僅用兩層交換機就能全連接約13.1萬張GPU;傳統800Gb/s組網則要三到四層。兩層結構降低功耗、故障點和網絡成本,並在多平面網絡上提供冗餘,訓練作業可在每分鐘多次鏈路抖動中繼續跑。
該協議已部署在OpenAI最大的GB200集羣上,地點包括得州阿比林與甲骨文雲合建的Stargate站點,以及微軟Fairwater超級計算機。硬件組合來自英偉達與博通,並與超微、英特爾、微軟共同開源協議。訓練ChatGPT與Codex所用的近期前沿模型時,運維曾重啓四臺一層交換機,舊架構下這類操作會直接打斷訓練。
同期產品線與集羣綁定。GPT-5.5在阿比林旗艦站點、甲骨文雲上的GB200系統完成訓練。公司還把推理側拆出:自研Jalapeño芯片公佈首批InferenceX數據,並與Cerebras推出GPT-5.6 Sol的超快模式。算力組合已從單一微軟加英偉達,擴到亞馬遜雲、超微、博通、Cerebras、CoreWeave、甲骨文、軟銀與能源方。
已披露的電力合約把需求寫成吉瓦。第三方統計稱OpenAI簽約算力約26吉瓦,其中英偉達約10吉瓦、非英偉達約16吉瓦,後者含超微MI450約6吉瓦與博通定製硅約10吉瓦;非英偉達賬面已大於英偉達賬面,也大於Anthropic全部已披露組合。xAI的Colossus以12萬天內部署10萬張、再翻倍到20萬張比安裝速度;OpenAI用可維持訓練的10萬張級以太網結構比可用算力。
買方是模型實驗室與雲廠,搶的是可長時間同步的整網GPU小時,不是單卡標價。賣方是交換機、光模塊、電力與機櫃供應鏈。事件驅動來自集羣能否在故障下不停訓。受益方是能把10萬卡級訓練變成穩定作業的網絡與雲,承壓方是隻能提供碎片化租卡、訓到一半掉線的供應商。
來源:公開信息
ABAB AI 解讀
OpenAI從租微軟GPU起步,把訓練規模寫成公司戰略本身。Sam Altman在2025年先慶祝“遠超100萬張GPU在線”,再提出爲AGI還要再放大兩個數量級;落地工具不是口號,而是阿比林Stargate、Fairwater、挪威10萬卡規劃,以及把網絡協議開源給超微、博通、英特爾。歷史路徑與微軟獨家綁定鬆綁同步:算力從單一雲轉向多雲加自研推理芯片,避免下一代預訓練卡在一家房東的交付節奏上。
錢流向三處。一是整網級GB200機房,用來把預訓練和強化學習後訓練做在同一故障域裏;二是非英偉達備胎,超微機櫃與博通定製硅對沖供貨與議價;三是Jalapeño一類推理ASIC,把訓練堆出來的參數在服務端用更低瓦時吐出token。動機是訓練仍按卡數堆智能,推理已按每瓦吞吐競爭利潤。資源輸送方式是長期包電、包櫃、包協議,而不是買斷全部芯片產權——實驗室仍主要租用超大規模雲的資產。
對照xAI用Colossus證明“能多快插上10萬卡”,Meta與谷歌用自有集羣把訓練留在牆內,Anthropic用亞馬遜與谷歌的吉瓦合約換多元供應。OpenAI處在擴張與控制重疊的階段:對外要更多卡,對內要把卡變成不停訓的系統,同時把推理利潤從英偉達租電裏摳出來。行業已從拼峯值FLOP,進入拼持續可用訓練小時。
結構上屬於資本集中疊加技術替代。機制是:當前沿模型必須在十萬卡同一網絡上同步梯度,入口從算法論文改成電力、光模塊與二層交換機能否撐住;誰能把13萬卡級結構跑穩,誰就決定下一代基座模型的發佈時間。卡數是門票,網絡與功耗是定價權。
ABAB News · 認知定律
卡數是門票,不停訓纔是產能
十萬卡同一張網,比多十萬張散卡更貴
訓練拼規模,推理拼每瓦利潤