返回快讯

OpenAI文档:Responses API新增2h/8h完成窗口

OpenAI开发者文档显示,Responses API后台模式新增完成窗口选项。选择2小时窗口时模型token费率比Standard低30%,选择8小时窗口时低40%;默认的soonest窗口不提供折扣。该功能目前在GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra和GPT-6 Luna上以公测形式提供。

折扣窗口要求使用Standard处理(service_tier为default),不支持流式输出,并与Batch API共用速率限制。后续请求若沿用同一continuation_id,可获得更高的队列优先级。文档同时披露,从GPT-6.2 Astra和Sol开始,新模型不再提供Flex处理。

官方将2小时窗口示例为分析上午支持工单以供下午分拣会议使用,8小时窗口示例为夜间审查一批文档以备次日早晨使用。完成目标从API接受初始请求时起算,并适用于该响应;折扣同样适用于符合条件的后续请求。

来源:公开信息

ABAB AI 解读

OpenAI此前通过Flex处理(service_tier=flex)为可接受较慢响应与偶发资源不可用的工作负载提供Batch级费率,该机制曾覆盖部分旧模型。此次在GPT-6.2系列上停止提供Flex,并将折扣路径迁移至Responses API后台模式的完成窗口,表明公司正把异步折扣从“弹性降级”转向“显式时间承诺”。

资本路径上,2小时30%折扣与8小时40%折扣介于Standard全价与Batch API更深折扣之间,允许开发者按延迟容忍度分层付费。后续请求复用continuation_id可获得更高队列优先级,使多轮工具调用工作流仍能享受折扣,但每条响应各自重置完成目标。

对比Flex,新窗口明确要求Standard处理且禁止流式输出,同时与Batch共享速率限制,降低了“偶尔可用”的不确定性,但增加了可预期的小时级延迟。判断:OpenAI正通过显式完成窗口将异步容量重新定价,把原本由Flex覆盖的中低优先级工作负载引导至可调度队列,同时在新模型上收紧Flex路径。

认知定律:

  1. 延迟承诺换取费率折扣

  2. 异步路径从弹性转为窗口

  3. 队列优先级绑定续传标识