返回快讯

英伟达发布开源模型Nemotron 3.5 Lightning专攻Agent执行

英伟达发布开源模型Nemotron 3.5 Lightning,专门面向长时间运行的Agent执行任务。模型总参数300亿,每个Token仅激活约30亿参数,主要负责工具调用、结果检查与子Agent调度等高频重复工作。

英伟达的设计思路是将Agent分工彻底化:复杂规划交给Nemotron 3 Ultra等更大模型,大量重复执行交给Lightning。官方称其输出速度最高可达同级模型的4倍;在PinchBench上准确率达86%,在准确率接近的情况下,跑完1万个任务比Qwen3.6 35B快30%。

模型采用MoE架构,并专门针对Agent Harness进行训练,加入多Token预测与推测解码。官方提供BF16和NVFP4权重,可在RTX 5090、DGX Spark等本地设备运行,同时支持llama.cpp、Ollama、LM Studio和Unsloth。

英伟达开放权重、部分训练数据与训练配方,企业可针对代码、安全、法律等任务继续后训练。官方展示案例中,Lightning经后训练后在多个专业任务上显著提升分数。

市场机制上,高效执行层模型降低长时间Agent的运行成本与延迟,资金与部署向可本地运行、可定制的开源执行模型集中,纯依赖大模型承担全部任务的方案承压。

该模型定位为多Agent系统中的高速工作马,而非追求最高智能的通用模型。

来源:公开信息

ABAB AI 解读

英伟达在Nemotron系列中持续推进开源高效模型,此前已有Nano与Super版本,Lightning进一步将重点放在Agent执行层的速度与可定制性。

资本路径体现在开放权重与训练配方,鼓励企业用自身数据后训练,动机在于构建从规划模型到执行模型的完整Agent栈,同时推动NVIDIA硬件与软件生态在本地与数据中心的部署。

类似其他厂商推出轻量或专项Agent模型以降低“思考税”的做法,当前处于多Agent系统从单一大模型向规划-执行分工演进的阶段。

本质属于技术替代与效率重构,机制在于当Agent需要长时间高频调用工具时,专用执行模型比通用大模型更具性价比。

ABAB News · 认知定律

  1. Agent需要规划与执行的明确分工

  2. 速度与可定制性决定执行层价值

  3. 开源执行模型正在成为基础设施