英偉達開源Nemotron 3 Ultra旗艦模型
英偉達於6月4日正式開源5500億參數、激活550億參數的Nemotron 3 Ultra大語言模型。
模型針對複雜規劃、推理和工具調用等長程智能體任務進行專項優化,在Artificial Analysis智能指數中獲47.7分,爲美國本土最強開源權重模型。
該模型採用Mamba-Transformer混合MoE架構,支持100萬token上下文窗口,實現智能體任務下5倍吞吐量提升和30%推理成本降低。
來源:公開信息
ABAB AI 解讀
英偉達此前已推出Nemotron系列多個版本並逐步開放權重,此次Nemotron 3 Ultra開源延續其通過高性能模型推動CUDA與NIM生態擴張的長期策略,旨在強化企業在自建AI基礎設施中的硬件綁定。
資本路徑上,英偉達將模型權重、數據集與訓練配方全部開源,同時配套Agent Toolkit工具包,企業用戶通過NVIDIA NIM部署可大幅降低推理成本,從而增加對H100/H200/B200等GPU的採購需求,實現“軟件開源、硬件賣貨”的資源調動。
類似Meta Llama系列開源後帶動全球訓練與推理硬件需求,本案中開源大模型市場正處於美國與中國模型激烈競爭的擴張階段,Nemotron 3 Ultra雖落後於部分中國模型,但憑藉混合架構在長上下文智能體上形成差異化。
本質屬於技術替代:混合Mamba-Transformer架構替代純Transformer在超長上下文下的內存瓶頸,機制在於狀態空間模型線性擴展特性大幅降低KV緩存開銷,讓企業能在有限算力下部署百萬token智能體,從而加速AI從聊天工具向複雜自主代理的轉型。
ABAB News · 認知定律
開源最強武器,往往是硬件廠商的生態收割機。
架構創新比參數量更決定實際成本優勢。
當美國開源追趕中國模型,全球AI硬件競爭才真正進入白熱化。