OpenAI推出Cerebras支持的Ultrafast模式,該模式比標準處理快最高14倍
OpenAI發佈Ultrafast服務層級,運行GPT-5.6 Sol模型,由Cerebras提供算力支持,生成速度最高可達每秒750個輸出token。
該模式比標準處理快最高14倍,首次在OpenAI API中以有限預覽形式向選定客戶開放,後續將隨產能擴大訪問範圍。
目標場景包括實時語音、客戶支持、電商、編程與設計代理、金融研究以及安全響應等需要低延遲的企業工作流。
Cerebras晶圓級引擎將模型權重保留在片上SRAM,減少數據搬運瓶頸,實現前沿模型智能與超低延遲的結合。
OpenAI內部已用其壓縮研究循環與事故日誌分析,將原本隔夜完成的任務縮短爲工作日內多次迭代。
市場機制上,OpenAI通過專用高速算力將前沿模型直接嵌入實時產品,資金與需求流向低延遲推理基礎設施;受益方爲需要即時響應的企業客戶與Cerebras,承壓方爲依賴傳統GPU集羣的高延遲推理服務商。
來源:公開信息
ABAB AI 解讀
OpenAI此前已與Cerebras建立大規模低延遲算力合作,將晶圓級芯片納入推理棧,此次把最強模型GPT-5.6 Sol直接部署其上,延續了從通用GPU集羣向專用高速硬件分層的路徑,與早期將訓練與推理分離的策略一脈相承。
資本路徑上,OpenAI通過長期算力協議鎖定Cerebras產能,把速度本身產品化,再以分層服務向企業收費;動機是搶佔實時交互入口,戰略上用硬件差異化鞏固模型優勢,同時降低對單一GPU供應商的依賴。
類似案例可見Groq、SambaNova等專用推理芯片與大模型廠商的綁定,以及雲廠商推出的低延遲實例;當前AI基礎設施處於從“夠快”轉向“實時可用”的擴張階段,速度開始成爲與智能同等重要的競爭維度。
結構判斷屬於技術替代:晶圓級架構用片上內存替代跨芯片數據搬運,直接改寫推理延遲上限;機制在於當模型能力接近平臺期時,端到端響應速度成爲決定產品能否進入實時場景的關鍵變量,從而重新分配算力與應用入口的控制權。
ABAB News · 認知定律
速度一旦足夠快,就會變成新的智能
專用硬件最終會喫掉通用集羣的利潤
實時響應權,決定誰定義下一代交互