OpenAI Codex負責人Tibo:API支持12小時緩存,登錄用戶永久保留緩存
OpenAI Codex與ChatGPT相關負責人Tibo宣佈,API現已支持選擇12小時提示詞緩存,而登錄用戶在Codex與Work中可永久保留緩存。
用戶返回舊對話或在數小時後恢復時不再受到懲罰,並保證命中緩存;此前OpenAI開發者賬號已公佈API端12小時緩存選項,適用於持久代理在一天內複用上下文。
該更新屬於Tibo進行的28天挑戰中的第16天改進,此前第12天已通過跨子代理複用上下文、延長緩存時間與優化路由提高緩存命中率,以增加有效用量。
永久緩存針對登錄用戶,使共享指令、工具與上下文可更長時間以較低緩存輸入費率使用,即使請求間隔數小時;API端則提供12小時選項供開發者選擇。
Tibo此前多次通過X宣佈Codex用量重置與功能改進,包括磁盤存儲優化與模型容量錯誤減少;本次緩存延長直接回應長時間中斷後上下文丟失的問題。
OpenAI官方開發者賬號同步確認12小時緩存,強調持久代理可在全天覆用上下文並支付更低費率;登錄用戶的無限期緩存進一步降低對話恢復成本。
市場機制上,緩存延長屬於產品效率驅動,可能增加用戶對長時間會話與代理任務的使用頻次;受益方是依賴長期上下文的開發者與Codex用戶,承壓方則是緩存策略較短的競爭平臺。
來源:公開信息
ABAB AI 解讀
Tibo作爲OpenAI Codex與ChatGPT相關負責人,長期通過X公開宣佈用量重置與功能迭代,形成28天挑戰形式;此前已多次優化上下文複用與緩存命中,本次將登錄用戶緩存從有限期延長至永久,延續其通過公開更新提升用戶體驗的路徑。
資本路徑是通過延長緩存時間降低重複輸入的計算成本,使持久代理與長時間項目以更低費率運行;動機在於提高有效用量與用戶粘性,減少因中斷導致的上下文重建,使平臺在代理與長期任務場景中更具競爭力。
這類似於歷史上對會話狀態與緩存策略的持續優化,或雲服務對持久存儲與計算資源的調整;當前處於AI代理與長時間交互普及的階段,緩存持久化成爲降低摩擦的關鍵改進。
本質屬於技術替代與成本結構變化:通過永久緩存減少重複計算與上下文重建,機制是將短期緩存轉爲長期複用,使依賴連續上下文的工作流成本下降,使用戶更願意維持長時間會話,而緩存窗口較短的替代方案面臨效率劣勢。
ABAB News · 認知定律
緩存時間越長,中斷後的重建成本越低。
永久緩存把臨時會話變成持續工作流。
保證命中比單純延長時間更減少懲罰。