返回快訊

英偉達發佈開源模型Nemotron 3.5 Lightning專攻Agent執行

英偉達發佈開源模型Nemotron 3.5 Lightning,專門面向長時間運行的Agent執行任務。模型總參數300億,每個Token僅激活約30億參數,主要負責工具調用、結果檢查與子Agent調度等高頻重複工作。

英偉達的設計思路是將Agent分工徹底化:複雜規劃交給Nemotron 3 Ultra等更大模型,大量重複執行交給Lightning。官方稱其輸出速度最高可達同級模型的4倍;在PinchBench上準確率達86%,在準確率接近的情況下,跑完1萬個任務比Qwen3.6 35B快30%。

模型採用MoE架構,並專門針對Agent Harness進行訓練,加入多Token預測與推測解碼。官方提供BF16和NVFP4權重,可在RTX 5090、DGX Spark等本地設備運行,同時支持llama.cpp、Ollama、LM Studio和Unsloth。

英偉達開放權重、部分訓練數據與訓練配方,企業可針對代碼、安全、法律等任務繼續後訓練。官方展示案例中,Lightning經後訓練後在多個專業任務上顯著提升分數。

市場機制上,高效執行層模型降低長時間Agent的運行成本與延遲,資金與部署向可本地運行、可定製的開源執行模型集中,純依賴大模型承擔全部任務的方案承壓。

該模型定位爲多Agent系統中的高速工作馬,而非追求最高智能的通用模型。

來源:公開信息

ABAB AI 解讀

英偉達在Nemotron系列中持續推進開源高效模型,此前已有Nano與Super版本,Lightning進一步將重點放在Agent執行層的速度與可定製性。

資本路徑體現在開放權重與訓練配方,鼓勵企業用自身數據後訓練,動機在於構建從規劃模型到執行模型的完整Agent棧,同時推動NVIDIA硬件與軟件生態在本地與數據中心的部署。

類似其他廠商推出輕量或專項Agent模型以降低“思考稅”的做法,當前處於多Agent系統從單一大模型向規劃-執行分工演進的階段。

本質屬於技術替代與效率重構,機制在於當Agent需要長時間高頻調用工具時,專用執行模型比通用大模型更具性價比。

ABAB News · 認知定律

  1. Agent需要規劃與執行的明確分工

  2. 速度與可定製性決定執行層價值

  3. 開源執行模型正在成爲基礎設施