OpenAI推出Cerebras支持的Ultrafast模式,该模式比标准处理快最高14倍
OpenAI发布Ultrafast服务层级,运行GPT-5.6 Sol模型,由Cerebras提供算力支持,生成速度最高可达每秒750个输出token。
该模式比标准处理快最高14倍,首次在OpenAI API中以有限预览形式向选定客户开放,后续将随产能扩大访问范围。
目标场景包括实时语音、客户支持、电商、编程与设计代理、金融研究以及安全响应等需要低延迟的企业工作流。
Cerebras晶圆级引擎将模型权重保留在片上SRAM,减少数据搬运瓶颈,实现前沿模型智能与超低延迟的结合。
OpenAI内部已用其压缩研究循环与事故日志分析,将原本隔夜完成的任务缩短为工作日内多次迭代。
市场机制上,OpenAI通过专用高速算力将前沿模型直接嵌入实时产品,资金与需求流向低延迟推理基础设施;受益方为需要即时响应的企业客户与Cerebras,承压方为依赖传统GPU集群的高延迟推理服务商。
来源:公开信息
ABAB AI 解读
OpenAI此前已与Cerebras建立大规模低延迟算力合作,将晶圆级芯片纳入推理栈,此次把最强模型GPT-5.6 Sol直接部署其上,延续了从通用GPU集群向专用高速硬件分层的路径,与早期将训练与推理分离的策略一脉相承。
资本路径上,OpenAI通过长期算力协议锁定Cerebras产能,把速度本身产品化,再以分层服务向企业收费;动机是抢占实时交互入口,战略上用硬件差异化巩固模型优势,同时降低对单一GPU供应商的依赖。
类似案例可见Groq、SambaNova等专用推理芯片与大模型厂商的绑定,以及云厂商推出的低延迟实例;当前AI基础设施处于从“够快”转向“实时可用”的扩张阶段,速度开始成为与智能同等重要的竞争维度。
结构判断属于技术替代:晶圆级架构用片上内存替代跨芯片数据搬运,直接改写推理延迟上限;机制在于当模型能力接近平台期时,端到端响应速度成为决定产品能否进入实时场景的关键变量,从而重新分配算力与应用入口的控制权。
ABAB News · 认知定律
速度一旦足够快,就会变成新的智能
专用硬件最终会吃掉通用集群的利润
实时响应权,决定谁定义下一代交互