NVIDIA 发布 Nemotron 3.5 Super VL：120B 开源多模态 Agent 模型，单卡 DGX Spark 可跑
来源MarkTechPost查看原文
速览
- 120B MoE、12B 激活、1M 上下文，权重以 OpenMDW-1.1 开源
- 单模型覆盖文本、图像、文档、视频、工具调用与代码
- NVFP4 checkpoint 可跑在单台 DGX Spark、H200 或 GB200 上
- GPQA-Diamond 89.90，但 tau3-bench banking 仅 17.78
- Bolt 74B-A9B 把 24GB 本地 Agent 模型带到 RTX 平台
- NVIDIA 称单 GPU 吞吐最高达同类开源模型的 5 倍
- Dynamo 配方在 16 张 B200 上称可服务 8 倍用户数，首 token 延迟降 85%
- Scale AI、Ramp、AI21 给出早期定制化效果数据
NVIDIA 发布 Nemotron 3.5 Super VL，一个面向常驻企业 Agent 的开源视觉语言模型。该模型为 120B 总参数、12B 激活参数的 MoE 架构，支持最高 1M token 上下文，可同时处理文本、图像、文档与视频，并在同一模型内完成推理、工具调用与代码编写。NVIDIA 称开发者用 1 个开源 checkpoint 即可替代原本分开的文本模型与视觉模型。权重以 OpenMDW-1.1 许可发布，同时开源数据集、训练配方与 NeMo Gym 中的 RL 环境。NVFP4 checkpoint 可在 1 台 DGX Spark、1 张 H200、2 张 H100 或 1 张 GB200 上运行，另有 BF16 checkpoint。NVIDIA 自报 GPQA-Diamond 得分 89.90，SWE-bench Verified 71.07，BrowseComp 77.5，但 tau3-bench banking 仅 17.78。此外 NVIDIA 还发布了两款边缘模型 Nemotron 3.5 Bolt 74B-A9B 与 Bolt E4B。
关键事实
- Nemotron 3.5 Super VL 为 120B 总参数、12B 激活参数的 MoE 模型，上下文最高 1M token
- 权重以 OpenMDW-1.1 许可发布，同时开源数据集、训练配方与 NeMo Gym 中的 RL 环境
- NVFP4 checkpoint 可在 1x DGX Spark、1x H200、2x H100 或 1x GB200 上运行，另有 BF16 checkpoint
- NVIDIA 自报 GPQA-Diamond 89.90、SWE-bench Verified 71.07、Terminal-Bench 2.1 60.80、BrowseComp 77.5、IFBench 71.50、CharXiv reasoning 79.88、MMLongBench-Doc 62.82、OSWorld-Verified 52.3
- 最弱项为 tau3-bench banking，得分 17.78
- 架构上交错使用 Mamba-2、MoE 与注意力层，每个 MoE 层含 512 个路由专家，视觉侧使用 C-RADIO 编码器
本站视角
对国内做 Agent 的团队来说，这件事的直接意义是「多模态 Agent 的部署成本线被重新划了一次」。过去要同时处理文档、图表和视频，通常得拼一个文本模型加一个视觉模型，中间还要自己写路由和状态管理；Super VL 把这条链路收进一个 checkpoint，并且 NVFP4 版本能跑在单张 H200 或单台 DGX Spark 上，意味着中小团队不必先凑一个 8 卡集群就能起步。对用 API 的中小企业和内容平台，OpenRouter、ModelScope 上的可用性意味着可以先用托管方式验证，再决定是否自建。 我们的判断是：这是一次实打实的工程进步，但不宜按 NVIDIA 的宣传口径全盘接受。理由有三。第一，所有 benchmark 分数都是 NVIDIA 自报，且来自 NVFP4 checkpoint，第三方复现尚未出现；同一张对比表里 Qwen3.5-122B-A10B 与 Inkling-Small 的分数也由各自厂商自报，harness 与 benchmark 版本并不统一，原文自己也提醒「几分的差距要谨慎看待」。第二，模型的能力分布明显不均：GPQA-Diamond 89.90 属于第一梯队，但 tau3-bench banking 只有 17.78，说明长程、多轮、带真实业务约束的 Agent 任务仍是短板——而这恰恰是企业落地时最常遇到的场景。第三，「5 倍单 GPU 吞吐」「600+ token/秒」这类数字依赖特定 endpoint 与硬件配置，换到国内常见的推理栈和网络环境下未必能复现。 值得跟进的点：一是 Bolt 74B-A9B 的 24GB 本地部署，如果 2-bit 量化后精度损失可控，对端侧和私有化部署的吸引力可能比 Super VL 更大；二是 OpenMDW-1.1 许可的实际条款，开源权重不等于可商用无限制，国内团队在选型前需要逐条确认；三是 NVIDIA 引用的 Scale AI、Ramp、AI21 三组数据（40x 降本、50% 吞吐提升、40% 准确率提升）都缺少评测条件说明，属于典型的厂商早期结果，参考价值有限。
背景与影响
Nemotron 3.5 Super VL 是 NVIDIA Nemotron 系列的最新开源多模态 Agent 模型，定位是替代企业里「文本模型 + 视觉模型」的双模型组合，降低常驻 Agent 的部署复杂度。它从 Nemotron 3 Ultra 蒸馏而来，但总参数只有 Ultra 的约 1/4.6，却在 NVIDIA 自报的 Hermes Bench 与 LangChain 评测上反超 Ultra，说明这一代的重点是「小激活参数 + 高吞吐」而非堆规模。硬件侧，NVFP4 量化让 120B 模型能塞进单台 DGX Spark 或单张 H200/GB200，这对预算有限、又想做多模态 Agent 的团队是实质性门槛下降。同期发布的 Bolt 74B-A9B 用原生 2-bit 量化压到 24GB 内存，直接瞄准 RTX PC 与 DGX Spark 上的本地 Agent，Bolt E4B 4GB 版本则面向语音助手与嵌入式场景。生态上，模型已上 Hugging Face、OpenRouter、ModelScope 与 NVIDIA NIM，支持 vLLM、SGLang、TensorRT-LLM，本地路径覆盖 llama.cpp 与 Unsloth，定制化走 NeMo AutoModel（SFT/LoRA）与 NeMo RL。需要观察的是，NVIDIA 引用的 Scale AI、Ramp、AI21 三组效果数据均为厂商早期结果，未给出完整评测条件。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。
