OpenAI Codex负责人Tibo:API支持12小时缓存,登录用户永久保留缓存
OpenAI Codex与ChatGPT相关负责人Tibo宣布,API现已支持选择12小时提示词缓存,而登录用户在Codex与Work中可永久保留缓存。
用户返回旧对话或在数小时后恢复时不再受到惩罚,并保证命中缓存;此前OpenAI开发者账号已公布API端12小时缓存选项,适用于持久代理在一天内复用上下文。
该更新属于Tibo进行的28天挑战中的第16天改进,此前第12天已通过跨子代理复用上下文、延长缓存时间与优化路由提高缓存命中率,以增加有效用量。
永久缓存针对登录用户,使共享指令、工具与上下文可更长时间以较低缓存输入费率使用,即使请求间隔数小时;API端则提供12小时选项供开发者选择。
Tibo此前多次通过X宣布Codex用量重置与功能改进,包括磁盘存储优化与模型容量错误减少;本次缓存延长直接回应长时间中断后上下文丢失的问题。
OpenAI官方开发者账号同步确认12小时缓存,强调持久代理可在全天复用上下文并支付更低费率;登录用户的无限期缓存进一步降低对话恢复成本。
市场机制上,缓存延长属于产品效率驱动,可能增加用户对长时间会话与代理任务的使用频次;受益方是依赖长期上下文的开发者与Codex用户,承压方则是缓存策略较短的竞争平台。
来源:公开信息
ABAB AI 解读
Tibo作为OpenAI Codex与ChatGPT相关负责人,长期通过X公开宣布用量重置与功能迭代,形成28天挑战形式;此前已多次优化上下文复用与缓存命中,本次将登录用户缓存从有限期延长至永久,延续其通过公开更新提升用户体验的路径。
资本路径是通过延长缓存时间降低重复输入的计算成本,使持久代理与长时间项目以更低费率运行;动机在于提高有效用量与用户粘性,减少因中断导致的上下文重建,使平台在代理与长期任务场景中更具竞争力。
这类似于历史上对会话状态与缓存策略的持续优化,或云服务对持久存储与计算资源的调整;当前处于AI代理与长时间交互普及的阶段,缓存持久化成为降低摩擦的关键改进。
本质属于技术替代与成本结构变化:通过永久缓存减少重复计算与上下文重建,机制是将短期缓存转为长期复用,使依赖连续上下文的工作流成本下降,使用户更愿意维持长时间会话,而缓存窗口较短的替代方案面临效率劣势。
ABAB News · 认知定律
缓存时间越长,中断后的重建成本越低。
永久缓存把临时会话变成持续工作流。
保证命中比单纯延长时间更减少惩罚。