SemiAnalysis分析师:OpenAI工程师在滚动查看自家内核代码时,并不清楚每一行在做什么
SemiAnalysis分析师Jordan Nanos称,OpenAI工程师在滚动查看自家内核代码时,并不清楚每一行在做什么,但这不影响结果,因为人工智能能写、能测、能跑出高性能内核。
他把这些代码称为“不是垃圾,因为它能跑”,同时又说它“基本上就是吐在Gluon里的人工智能生成汇编”。Gluon是OpenAI建在Triton之上的底层内核语言,沿用单程序多数据模型,并向下暴露接近硬件的抽象。
Nanos说,一起看代码的工程师懂硬件、懂系统概念,却说不清眼前这段给DeepSeek准备的MLA内核实际在干什么。可以逐行指过去,得到的是否定。测试和正确性由模型与校验脚本完成。
SemiAnalysis书面材料写到,OpenAI用内部放大版Codex写Jalapeño内核,部分手调内核长达约三千行,并配正确性检查和自制消毒器。早期仍是人在环内,后来转向更自动化。内部推理引擎名为Teacup。公司在用InferenceX对DeepSeek做基准前,甚至没有自己的MLA内核实现。
Gluon把布局做成一等抽象,把硬件资源映射到张量元素,并提供可证明的布局转换。对英伟达图形处理器,它能直接碰到张量内存加速、矩阵乘加和内存屏障一类指令。内核优化被描述成可验证的强化学习循环:给任务、给测试、让模型迭代数据搬移和计算单元。
市场机制上,买单的是要在每瓦特上挤出更多token的推理负载,卖出的是人类逐行可读的内核工艺。事件由自研芯片与开源模型基准驱动,资金从CUDA生态的人工调核转向“模型写核、测试收口”;受益的是能把硬件语义交给模型闭环的实验室,承压的是把护城河建立在少数内核工程师手写汇编上的路径。
来源:公开信息
ABAB AI 解读
OpenAI把Triton再往下凿一层,得到Gluon,不是为了让人读得更舒服,是为了让模型摸到寄存器和搬数路径。Codex在没有人工内核组介入时写出能跑的MLA,说明可验证循环已经比“懂这一行在干什么”更值钱。工程师仍必须懂芯片和系统,但不必再当汇编的最终作者。
资本路径是把内核从人力工时改成强化学习课时。给模型任务、消毒器和性能测试,让它在Jalapeño或图形处理器上迭代。钱从高薪内核编制流向自研编译栈和内部代理算力。谁先把“正确性可测”写成奖励,谁就能把三千行内核当成可量产的生成物。
对标的是AlphaGo走出人类棋谱后的第37手,以及编译器自动向量化取代手写SIMD。行业处在从“人写CUDA”转向“人设约束、模型写核”的缝合期。DeepSeek用自研内核栈逼出OpenAI补MLA,说明开源模型的内核压力已经反向训练闭源实验室的工具链。
结构上属于技术替代。机制是:当数据搬移和计算单元可以被测试函数锁死,逐行理解就不再是性能的必要条件。可读性让位给可验证性,软件护城河从“谁会写”变成“谁能让模型在这块硅上闭环”。
ABAB News · 认知定律
能测对的代码,不必被人读懂
奖励函数在,汇编就可以生成
懂硬件的人,未必再当最后作者