OpenAI文檔:Responses API新增2h/8h完成窗口
OpenAI開發者文檔顯示,Responses API後臺模式新增完成窗口選項。選擇2小時窗口時模型token費率比Standard低30%,選擇8小時窗口時低40%;默認的soonest窗口不提供折扣。該功能目前在GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra和GPT-6 Luna上以公測形式提供。
折扣窗口要求使用Standard處理(service_tier爲default),不支持流式輸出,並與Batch API共用速率限制。後續請求若沿用同一continuation_id,可獲得更高的隊列優先級。文檔同時披露,從GPT-6.2 Astra和Sol開始,新模型不再提供Flex處理。
官方將2小時窗口示例爲分析上午支持工單以供下午分揀會議使用,8小時窗口示例爲夜間審查一批文檔以備次日早晨使用。完成目標從API接受初始請求時起算,並適用於該響應;折扣同樣適用於符合條件的後續請求。
來源:公開信息
ABAB AI 解讀
OpenAI此前通過Flex處理(service_tier=flex)爲可接受較慢響應與偶發資源不可用的工作負載提供Batch級費率,該機制曾覆蓋部分舊模型。此次在GPT-6.2系列上停止提供Flex,並將折扣路徑遷移至Responses API後臺模式的完成窗口,表明公司正把異步折扣從“彈性降級”轉向“顯式時間承諾”。
資本路徑上,2小時30%折扣與8小時40%折扣介於Standard全價與Batch API更深折扣之間,允許開發者按延遲容忍度分層付費。後續請求複用continuation_id可獲得更高隊列優先級,使多輪工具調用工作流仍能享受折扣,但每條響應各自重置完成目標。
對比Flex,新窗口明確要求Standard處理且禁止流式輸出,同時與Batch共享速率限制,降低了“偶爾可用”的不確定性,但增加了可預期的小時級延遲。判斷:OpenAI正通過顯式完成窗口將異步容量重新定價,把原本由Flex覆蓋的中低優先級工作負載引導至可調度隊列,同時在新模型上收緊Flex路徑。
認知定律:
延遲承諾換取費率折扣
異步路徑從彈性轉爲窗口
隊列優先級綁定續傳標識