英伟达发布 Nemotron 3.5 系列:Super VL多模态大模型,后训练专业任务基准超越Claude Opus 5、GPT-6.1 Sol

英伟达推出全新 Nemotron 3.5 模型家族,一共三款模型,面向企业代理、文档分析、本地多步任务场景。

  • 旗舰 Nemotron 3.5 Super VL 为1200亿参数开放多模态模型,可处理PDF、图表、表格、图片与网页,具备指令遵循与工具调用能力。另外两款是面向本地代理的轻量化模型;
  • Nemotron 3.5 Bolt 74B-A9B 24GB用于本地编码、深度研究与多步任务;
  • Bolt E4B 4GB计划10月23日发布,面向对话与设备端代理。企业可以基于自身文档、业务规则对 Super VL 做后训练,部署在自有基础设施,满足数据安全与本地驻留需求;Bolt 则把部分代理负载留在本地设备运行。
英伟达发布 Nemotron 3.5 系列:Super VL多模态大模型,后训练专业任务基准超越Claude Opus 5、GPT-6.1 Sol

Nemotron 产品线演进

Super VL 不是英伟达首款多模态文档模型,此前 Nemotron Nano 2 VL、Nemotron 3 Nano Omni 已经支持文档、图像,甚至音频视频理解。本次更新,把视觉文档能力升级到旗舰 Super 级别,同时新增 Bolt 系列补齐本地部署方案。

  • Hugging Face:https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4
  • 魔搭:https://modelscope.cn/collections/nv-community/Nemotron-35-Super-VL

这种文本+视觉一体化模型,能够简化企业代理架构。例如保险理赔审核场景,模型可直接读取扫描件、提取结构化信息、对照保单标记异常,不用在多个独立读写系统之间来回传递数据。当然开发者仍需要自行验证事实提取准确率与规则合规性。

英伟达发布 Nemotron 3.5 系列:Super VL多模态大模型,后训练专业任务基准超越Claude Opus 5、GPT-6.1 Sol

合作伙伴后训练实测效果

数十家企业机构针对自身业务对 Super VL 做后训练,覆盖金融、网络安全、代码代理等场景,合作方包括Scale AI、EY、AI21、Mercor等;集成平台包含Atlassian、CrowdStrike、Perplexity、Salesforce等。

测试覆盖文档智能、安全弹性、财务票据提取、科学实验、医保理赔五大专业任务。经过后训练,模型性能提升幅度在9%~44%区间。在部分专项任务上,定制后的模型得分超过 Claude Opus 5、GPT-6.1 Sol:医保理赔任务,基础模型约28%提升至后训练72%,Claude Opus 5约38%;安全攻击弹性由基础模型约35%提升至76%,GPT-6.1 Sol约66%。

重要说明:该结果仅针对定制后训练版本,并非基础版Super VL在通用能力上全面超越这两款闭源大模型。英伟达未公开测试集定义、样本量与完整测试协议,企业落地前必须自行做业务侧验证。

推理性能:长输入下高生成速度

英伟达称 Super VL 在同等质量下最高可达同类开放模型5倍推理速度。在4片Blackwell B200 GPU环境下,100k输入token场景实测可达 625 token/s,对比参考:Inkling Small 相近综合得分仅约125 token/s。

需要注意:这个指标只是token生成速度,不等于完整端到端Agent任务耗时。读取输入、调用外部工具、校验结果、纠错,都会额外占用时间。Artificial Analysis综合指数26,低于GLM-5.3-Flash(42)、Qwen3.8-Flash-Next(40),该综合指标不单独衡量文档视觉能力。

Bolt 本地小模型细节

Bolt 74B-A9B,总参74B,激活9B,原生2bit量化,24GB显存即可承载。适配RTX Spark、DGX Spark,主打本地网页研究、文案撰写、代码调试。在PinchBench同类开放模型排名第一,BrowseComp第二名,权重已上架Hugging Face,支持llama.cpp、Ollama、LM Studio、vLLM,可在消费级GeForce RTX、DGX Station、RTX PRO工作站运行。

Bolt E4B,体积仅4GB,面向语音助手、交互角色、嵌入式界面,支持多轮对话+工具调用,10月23日上线,适配GeForce RTX、Jetson与RTX/DGX Spark硬件。

获取渠道、许可证与硬件支持

Super VL、Bolt 74B-A9B权重发布于 Hugging Face;同时可通过 OpenRouter、ModelScope、NVIDIA NIM 获取。许可证采用OpenMDW,允许商业使用、微调、二次分发,附带完整训练配方、数据集、NeMo定制文档。

硬件方面针对 Blackwell、Hopper架构优化,支持DGX Spark、DGX Station、RTX PRO 6000 Blackwell,也可在Ampere GPU运行。成本上,开发者可用限速版英伟达托管API免费开发;企业生产环境,NVIDIA AI Enterprise软件许可每GPU每年4500美元,该费用仅为软件许可,不含硬件、托管运维成本。

模型训练体量:预训练+持续预训练合计26万亿token,380万后训练样本,约100个开放环境强化学习。后续还会补充工具调用、金融、长上下文、安全、视觉语言方向数据集。

本次发布恰逢英伟达收购Hugging Face的交易推进,交易金额约129.3亿美元,预计2027上半年完成,尚需监管审批。英伟达承诺收购后保持Hugging Face对所有模型厂商、芯片厂商开放。

要点小结

  1. Nemotron 3.5 三模型组合:120B多模态Super VL主打企业文档智能;Bolt 74B-A9B本地Agent;Bolt E4B面向嵌入式轻量场景。
  2. 专项后训练后,部分垂直任务指标超过Claude Opus5、GPT-6.1 Sol,不是基础模型通用能力超越,测试规范未完全公开。
  3. Super VL在Blackwell B200上长输入推理速度优秀;Bolt系列可在消费级RTX本地运行,生态兼容Ollama、LM Studio等工具。
  4. OpenMDW许可支持商用微调;英伟达收购Hugging Face交易仍待监管批准。
© 版权声明

相关文章