英伟达发布开源模型Nemotron 3.5 Lightning专攻Agent执行
英伟达发布开源模型Nemotron 3.5 Lightning,专门面向长时间运行的Agent执行任务。模型总参数300亿,每个Token仅激活约30亿参数,主要负责工具调用、结果检查与子Agent调度等高频重复工作。
英伟达的设计思路是将Agent分工彻底化:复杂规划交给Nemotron 3 Ultra等更大模型,大量重复执行交给Lightning。官方称其输出速度最高可达同级模型的4倍;在PinchBench上准确率达86%,在准确率接近的情况下,跑完1万个任务比Qwen3.6 35B快30%。
模型采用MoE架构,并专门针对Agent Harness进行训练,加入多Token预测与推测解码。官方提供BF16和NVFP4权重,可在RTX 5090、DGX Spark等本地设备运行,同时支持llama.cpp、Ollama、LM Studio和Unsloth。
英伟达开放权重、部分训练数据与训练配方,企业可针对代码、安全、法律等任务继续后训练。官方展示案例中,Lightning经后训练后在多个专业任务上显著提升分数。
市场机制上,高效执行层模型降低长时间Agent的运行成本与延迟,资金与部署向可本地运行、可定制的开源执行模型集中,纯依赖大模型承担全部任务的方案承压。
该模型定位为多Agent系统中的高速工作马,而非追求最高智能的通用模型。
来源:公开信息
ABAB AI 解读
英伟达在Nemotron系列中持续推进开源高效模型,此前已有Nano与Super版本,Lightning进一步将重点放在Agent执行层的速度与可定制性。
资本路径体现在开放权重与训练配方,鼓励企业用自身数据后训练,动机在于构建从规划模型到执行模型的完整Agent栈,同时推动NVIDIA硬件与软件生态在本地与数据中心的部署。
类似其他厂商推出轻量或专项Agent模型以降低“思考税”的做法,当前处于多Agent系统从单一大模型向规划-执行分工演进的阶段。
本质属于技术替代与效率重构,机制在于当Agent需要长时间高频调用工具时,专用执行模型比通用大模型更具性价比。
ABAB News · 认知定律
Agent需要规划与执行的明确分工
速度与可定制性决定执行层价值
开源执行模型正在成为基础设施