返回快訊

OpenAI推出Cerebras支持的Ultrafast模式,該模式比標準處理快最高14倍

OpenAI發佈Ultrafast服務層級,運行GPT-5.6 Sol模型,由Cerebras提供算力支持,生成速度最高可達每秒750個輸出token。

該模式比標準處理快最高14倍,首次在OpenAI API中以有限預覽形式向選定客戶開放,後續將隨產能擴大訪問範圍。

目標場景包括實時語音、客戶支持、電商、編程與設計代理、金融研究以及安全響應等需要低延遲的企業工作流。

Cerebras晶圓級引擎將模型權重保留在片上SRAM,減少數據搬運瓶頸,實現前沿模型智能與超低延遲的結合。

OpenAI內部已用其壓縮研究循環與事故日誌分析,將原本隔夜完成的任務縮短爲工作日內多次迭代。

市場機制上,OpenAI通過專用高速算力將前沿模型直接嵌入實時產品,資金與需求流向低延遲推理基礎設施;受益方爲需要即時響應的企業客戶與Cerebras,承壓方爲依賴傳統GPU集羣的高延遲推理服務商。

來源:公開信息

ABAB AI 解讀

OpenAI此前已與Cerebras建立大規模低延遲算力合作,將晶圓級芯片納入推理棧,此次把最強模型GPT-5.6 Sol直接部署其上,延續了從通用GPU集羣向專用高速硬件分層的路徑,與早期將訓練與推理分離的策略一脈相承。

資本路徑上,OpenAI通過長期算力協議鎖定Cerebras產能,把速度本身產品化,再以分層服務向企業收費;動機是搶佔實時交互入口,戰略上用硬件差異化鞏固模型優勢,同時降低對單一GPU供應商的依賴。

類似案例可見Groq、SambaNova等專用推理芯片與大模型廠商的綁定,以及雲廠商推出的低延遲實例;當前AI基礎設施處於從“夠快”轉向“實時可用”的擴張階段,速度開始成爲與智能同等重要的競爭維度。

結構判斷屬於技術替代:晶圓級架構用片上內存替代跨芯片數據搬運,直接改寫推理延遲上限;機制在於當模型能力接近平臺期時,端到端響應速度成爲決定產品能否進入實時場景的關鍵變量,從而重新分配算力與應用入口的控制權。

ABAB News · 認知定律

  1. 速度一旦足夠快,就會變成新的智能

  2. 專用硬件最終會喫掉通用集羣的利潤

  3. 實時響應權,決定誰定義下一代交互