NVIDIA AI Blog

Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models

8.5内容质量
Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models

TL;DR · AI 摘要

NVIDIA推出Nemotron 3.5 Super VL和Bolt模型，分别针对数据中心和边缘设备优化，提升效率与准确性。

核心要点

  • Nemotron 3.5 Super VL参数量1200亿，性能达同类模型5倍速度
  • Bolt 74B-A9B 24GB采用2-bit量化技术，内存占用降低至24GB
  • 三款开放模型覆盖从企业服务器到边缘设备的全场景部署

结构提纲

按章节快速跳转。

  1. §产品发布

    NVIDIA推出Nemotron 3.5 Super VL和Bolt系列模型

  2. ·Super VL特性

    1200亿参数模型实现5倍速度提升和前沿精度

  3. ·Bolt模型架构

    采用2-bit量化技术优化边缘设备部署

  4. ›性能对比

    Super VL在推理速度上超越同类模型5倍

  5. ›部署方案

    三款模型覆盖数据中心到边缘设备的全场景

思维导图

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）
  • Nemotron 3.5模型家族
    • Super VL
      • 1200亿参数
      • 5倍速度提升
    • Bolt系列
      • 2-bit量化
      • 边缘部署优化
    • 应用场景
      • 数据中心
      • 边缘设备

金句 / Highlights

值得收藏与分享的关键句。

#NVIDIA#AI模型#边缘计算#深度学习
打开原文

从数据中心到桌面：NVIDIA 扩展 Nemotron 系列，推出最高效率的 Super VL 和 Bolt 模型 | NVIDIA 博客

TITLE

从数据中心到桌面：NVIDIA 扩展 Nemotron 系列，推出最高效率的 Super VL 和 Bolt 模型

Nemotron 3.5 Super VL 速度提升 5 倍，准确且可定制，扩展了 NVIDIA 的开放模型，用于持续运行的智能代理，而 Nemotron 3.5 Bolt 将智能代理能力带入本地 NVIDIA 系统。

2026 年 10 月 15 日

作者：

Kari Briski

/inner3

META

0 条评论

分享

分享本文

  • X
  • Facebook
  • LinkedIn
  • 复制链接 链接已复制！

FEATURED IMG/VIDEO

NVIDIA 今日发布 Nemotron 3.5 Super VL，这是一款开放的 1200 亿参数模型，可为专用持续运行代理提供最快的任务完成速度和最高准确性。

同时推出的还有两款边缘模型：专为本地智能代理工作负载优化的 Nemotron 3.5 Bolt 74B-A9B 24GB（在每 GB 的智能与速度之间取得平衡），以及专为每 GB 智能优化的 Nemotron 3.5 Bolt E4B 4GB（适用于快速对话代理）。

Super VL 和 Bolt 74B-A9B 现已上市，Bolt E4B 将于 10 月 23 日发布。这三款开放模型共同覆盖了从大型企业服务器到边缘设备和本地硬件的完整代理部署范围。

现在，任何希望在 NVIDIA 基础设施上运行代理的组织都可以为其层级选择一个开放且优化的模型，无需在功能与部署能力之间做出取舍。

Super VL 和 Bolt 加入了 Nemotron 系列，与 Lightning 和 Ultra 一同构成产品矩阵。

8 月发布的 Lightning 适用于高吞吐量工作负载；Ultra 适用于最复杂的推理任务；而 Bolt 则将智能带入边缘设备。

Nemotron 3.5 Super VL：体积缩小五分之一，精度仍居前沿

Super VL 由 Nemotron 联盟合作开发，可在多模态智能代理任务（包括指令遵循、工具使用、多步骤商业工作流和视觉理解）中实现领先精度，其性能接近 NVIDIA 最大推理模型，但参数量仅为后者的五分之一。

Nemotron 3.5 Super VL 在同类高吞吐量智能代理工作流中实现了前沿级别的智能表现。

作为同类中最快的开放智能代理模型（速度是第二名的 5 倍），它帮助企业代理在跨越数天或数周的工作流中更快完成高吞吐量任务。

在 Artificial Analysis Intelligence Index 排行榜上，Nemotron 3.5 Super VL 相比同类其他模型实现了最高达 5 倍的吞吐量提升。

与封闭式前沿模型不同，组织可以基于自己的数据对 Super VL 进行后训练，并在自己的基础设施上部署，同时监督所构建的内容。

Nemotron 3.5 Bolt：边缘设备的智能代理

Bolt 74B-A9B 24GB 专为在 NVIDIA RTX/DGX Spark 上本地运行日常智能代理任务而设计，采用原生 2 位量化技术，可在 24GB 内存中运行，并与其他应用程序并行执行。

与其他具有类似内存占用的模型相比，它在智能与速度之间实现了良好的平衡：足够智能以完成大多数任务，同时比最智能的模型快得多。

使用 Bolt 74B-A9B 24GB，用户可以将项目委托给流行的本地代理框架——从网络研究到写作、调试代码，所有操作均无需将工作负载发送到云端。该模型在 PinchBench 上是同类开源模型中排名第一，在 BrowseComp 上是开源模型排名第二。Bolt E4B 4GB 针对 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理及对话代理进行优化，通过自然对话与多轮代理能力结合，可驱动快速本地语音助手、交互角色和嵌入式界面。

定制化超智能采用情况

各行各业的数十家组织正在基于自身数据、工具、政策和工作流程对超视觉语言模型（Super VL）进行后训练，以提升其在定义代理部署的专项任务中的准确性。

各行各业的组织正在对超视觉语言模型进行后训练和定制化。Scale AI 为 Skydance 的供应商信贷金融代理和 EY 的并购尽职调查代理进行了模型后训练。AfterQuery 为 Hebbia 的信贷协议分析定制了该模型。AI21 和 Alice 对模型进行了网络安全攻击防御能力的后训练。Mercor 在 APEX-SWE 编码基准上对模型进行后训练，用于能够规划、编写和调试代码的编码代理。ModelScope 通过其 ms-swift 框架使开发者能够对模型进行微调，以实现特定的多模态应用。

此外，正在对 Nemotron 3.5 超视觉语言模型进行定制化的组织还包括：Ramp 用于金融文件智能分析；Dream 用于主权人工智能驱动的网络安全研究和漏洞分析；Lila Sciences 用于科学发现和搜索；R1 用于医疗索赔分析和收入周期管理。TrainLoop 与 Nolla 合作，使用皮肤科数据对模型进行后训练，Nolla 刚成为首家获得批准通过人工智能开具患者初始处方的公司。集成 Nemotron 3.5 超视觉语言模型的软件平台公司包括：

  • Atlassian，用于跨 Jira 和 Confluence 等应用的代理搜索等任务。
  • CrowdStrike，正在为企业的安全代理蓝队协作定制该模型。
  • Dassault Systèmes，用于工程设计和仿真。
  • Perplexity，用于 Perplexity Search 和 Computer 中的搜索及代理任务。
  • Salesforce，正在定制 Nemotron 以通过 Missionforce Operations 在安全客户环境中实现 AI 代理对复杂政府工作流程的数字化和自动化。
  • Synopsys 的半导体设计验证软件与该模型实现互操作性。

Nemotron 3.5 超视觉语言模型实际处理的内容

Nemotron 3.5 超视觉语言模型的视觉语言能力针对代理在实际场景中遇到的内容进行优化：光学字符识别、表格、图表以及视觉文档中的结构化信息。

该模型可以处理网页内容，提取文本，读取图表和图形，并从发现的信息中返回洞察。同样的处理方式也适用于 PDF 和其他代理常用的文档。

Nemotron 3.5 超视觉语言模型能够理解图像、网页和 PDF，并基于这种理解进行操作。将文本理解和视觉理解整合到单一模型中意味着代理无需在不同系统之间路由任务——随着工作从文档转移到数据再到决策，上下文信息能够持续传递。

开放性实现最大控制权、安全性和隐私保护

开放性和可定制性相辅相成。该模型提供开放权重、开放数据集和训练方案。

控制权双向流动。组织可根据自身的安全要求和数据驻留需求，在任意位置部署模型。同时，他们选择采用可自适应的模型，而非受制于供应商限制的模型。

以保险行业为例，定制化代理可重复扫描理赔记录中的欺诈特征。在金融服务领域，代理可审查信用评分，并根据组织自身的放贷标准标记异常行为。模型保留在本地，数据始终保持私密。

通过 NVIDIA NeMo、基于 Python 的流水线和开放数据集，可实现模型定制化。

Nemotron 3.5 Super VL 在预训练和持续预训练阶段使用了约 26 万亿个标记进行训练，随后通过约 380 万个样本和跨数十个环境的强化学习进行微调。

NVIDIA 还在 Hugging Face 上发布了开放数据集，涵盖代理工具使用、金融、指令遵循、长上下文、公平性及视觉-语言理解等多个领域，并同步开放了 NeMo Gym 中的强化学习环境。

NVIDIA NIM 将模型封装为即用型微服务，包含经过性能优化和验证的配置，以及企业级支持服务。每两周更新一次，包含安全补丁和性能改进。

借助 NVIDIA Dynamo 运行模型，组织可将用户服务量提升至原来的 8 倍，同时将延迟降低 85%。

Nemotron 3.5 Super VL 现已通过 Hugging Face、Open Router、ModelScope 社区以及 NVIDIA NIM 提供。

支持 DGX Spark、DGX Station 和 RTX

Nemotron 3.5 Super VL 可运行于 NVIDIA 全系列硬件平台：在 DGX Spark、DGX Station、RTX PRO 和 RTX 系统上实现桌面级本地智能，在 NVIDIA Jetson 上实现边缘计算，并支持数据中心和云环境部署。

Nemotron 3.5 Bolt 74B-A9B 24G B 现已通过 Hugging Face 提供，支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。专为 10 月 16 日发布的 NVIDIA RTX Spark 笔记本电脑设计，也可在 GeForce RTX 个人电脑、DGX Spark、DGX Station 和 RTX PRO 工作站上运行。

下载开放权重，通过 NVIDIA NeMo 探索定制化资源，或阅读技术博客获取完整架构解析。

通过订阅 NVIDIA 新闻、加入社区并在 LinkedIn、Instagram、X 和 Facebook 关注 NVIDIA AI，获取有关代理、NVIDIA Nemotron 的最新动态。

探索自主节奏的视频教程和直播课程。

查看软件产品信息的相关声明。

#secondary

  • 类别：
  • AI
  • 企业
  • 深度学习
  • 标签：
  • Nemotron

相关新闻

AI

RTX Spark 点燃全球庆典，新一代 Windows 电脑正式发布

2026 年 10 月 17 日

亲历开端：庆祝 NVIDIA RTX Spark 发布

2026 年 10 月 15 日

从数据中心到桌面：NVIDIA 扩展 Nemotron 系列，推出最高效率的 Super VL 和 Bolt 模型

北欧地区与 NVIDIA 展示区域承诺先进计算的无限可能

2026 年 10 月 14 日