OpenAI被傳完成10萬億參數預訓練,參數決定容量,後訓練決定價格
社交平臺爆料稱,OpenAI近期完成內部代號“Bel”的新一輪預訓練,總參數超過10萬億;OpenAI尚未確認Bel存在、參數規模或訓練完成時間。
爆料將Bel描述爲“Doug”的後繼預訓練底座。按該說法,Doug預計經進一步強化學習後支撐Astra和GPT-6級系統,而Bel被定位於該路線之後的下一代基礎模型。
關於“超過10萬億參數”的表述未披露模型架構、激活參數數量、專家混合路由方式、訓練token規模、訓練集構成、訓練集羣規模或訓練成本。因此,不能把總參數直接等同於單次推理實際調用的參數,亦無法據此判斷模型能力。
爆料稱,Bel未來可能經強化學習形成GPT-6之後的模型,並可能成爲所謂“AGI閾值模型”的基礎;“AGI閾值”不是OpenAI公開發布的產品規格、模型名稱或可驗證性能指標,而是傳言中的內部定位。
OpenAI已公開確認Astra是其“下一項重大模型”之一,但尚未公佈發佈日期、價格、模型ID或完整技術規格。公司曾表示,因網絡安全風險評估,部分計劃中的前沿強化學習訓練處於暫停狀態;這意味着即使某項預訓練已經完成,也不能推導出相關產品可以即將發佈。
關於Anthropic“今年難以拿出同級模型、主要受限於算力”的說法,同樣源自未經證實的社交媒體轉述。當前沒有Anthropic官方聲明、算力採購披露或獨立技術報告能證明其無法訓練或發佈與Astra同等級的模型。
市場機制上,這類傳言本身會推高對前沿訓練算力、HBM內存、網絡互連、數據中心電力與模型後訓練數據的預期;受益敘事集中於芯片、雲服務、AI電力和數據供應商。真正的資金流向仍取決於OpenAI是否披露訓練規模、部署計劃及商業化路徑;對手公司則承受“算力落後”敘事壓力,但尚無可驗證證據表明競爭格局已被Bel改寫。
來源:公開信息
ABAB AI 解讀
OpenAI過去的產品路徑說明,“完成預訓練”不等於“完成模型”。GPT-4之後,公司將模型能力、強化學習、工具調用、多模態接口、推理時計算與安全評估拆成不同層;GPT-4o的發佈亦顯示,產品命名不必與底座訓練代號一一對應。因而Doug、Bel與Astra之間即使存在內部關聯,也不能從一個未證實的訓練代號直接推導出最終產品性能或上線節奏。
資本路徑上,10萬億級“總參數”若屬實,最可能對應專家混合架構:公司以極大總容量覆蓋不同能力簇,但每個token只路由到部分專家,以壓低推理計算。真正昂貴的環節不僅是預訓練GPU時長,還包括高帶寬內存、集羣網絡、數據清洗、強化學習rollout、評測和安全紅隊。OpenAI將最高能力Astra的後訓練階段放在網絡安全準備框架下審查,說明資本投入必須經過部署風險與商業化門檻才能轉爲收入。
歷史對照可見於Google、Anthropic和OpenAI之間的“底座—後訓練—產品化”競賽:原始模型規模提供能力上限,強化學習與推理計算決定複雜任務的可用性,雲端分發決定收入化速度。Anthropic即使沒有與傳言相同參數規模的模型,也可能通過更強後訓練、編碼代理、企業集成和長上下文能力形成競爭;將競爭簡化爲參數或單一訓練跑道,會忽略模型部署質量和客戶工作流壁壘。
這屬於資本集中。前沿模型訓練把競爭門檻推向少數能夠長期鎖定芯片、建設數據中心、獲得電力與籌集鉅額資本的機構;參數規模只是這種集中化的可見表徵。機制在於,訓練集羣越大,供應鏈議價、數據治理、安全合規與後訓練試錯的固定成本越高,小型實驗室即使擁有研究能力,也難以持續支付從訓練到部署的完整成本。
ABAB News · 認知定律
參數決定容量,後訓練決定價格
模型越大,競爭越像基礎設施而非軟件
未發佈的能力,不能計入已兌現的優勢