英伟达发布Nemotron 3.5系列 覆盖数据中心至桌面

英伟达发布Nemotron 3.5系列 覆盖数据中心至桌面

2026年10月15日,英伟达在官方博客发布 Nemotron 3.5 Super VL 开源模型,参数规模1200亿,并同步推出 Nemotron 3.5 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB 两款边缘模型,覆盖从数据中心到桌面的常驻智能体部署。该系列把高性能智能体能力下放到本地设备,可能改变开源模型在工业质检、机器人与个人助手场景的落地逻辑。刘工认为,英伟达正以“模型+硬件”捆绑策略,将开源模型变成其 GPU 与边缘计算平台的流量入口。

2026年10月15日,英伟达通过官方博客宣布 Nemotron 3.5 家族扩展。核心产品 Nemotron 3.5 Super VL 为 1200 亿参数开源模型,官方称其面向专用常驻智能体,在任务完成速度和准确率上达到家族最高水平。一同发布的两款边缘模型分别为 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Nemotron 3.5 Bolt E4B 4GB。前者总参数 74B、激活参数 9B,内存需求 24GB,优化目标是在本地智能体工作负载中平衡每 GB 智能与速度;后者内存需求仅 4GB,优化方向为更低资源设备。英伟达暂未在博客片段中披露训练数据规模、基准测试分数、许可协议与具体硬件合作名单。此次发布延续 Nemotron 开源路线,同时把模型尺寸从数据中心级 120B 延伸到 24GB 桌面级和 4GB 嵌入式级,形成三级产品矩阵。

英伟达此时扩展 Nemotron 家族,直接背景是开源大模型竞争从云端参数规模转向端侧效率。Meta Llama、Mistral、阿里 Qwen 等已覆盖 7B 到 70B 区间,但 120B 级开源模型仍少,且能在 24GB 显存运行的 70B 级模型稀缺。端侧智能体需求在 2025 年后快速上升:工业质检要求低延迟与数据不出厂,个人助手要求离线常驻,机器人要求实时决策。英伟达此前已通过 Nemotron 系列证明其模型能力,但真正的商业意图是让开发者在其 GPU、Jetson、RTX 平台上运行这些模型,从而拉动推理硬件销售。Bolt 24GB 对应单张高端桌面 GPU,4GB 对应移动与嵌入式设备,这种内存梯度与英伟达硬件产品线高度吻合。

刘工判断:未来 6 个月内,基于 Nemotron 3.5 Bolt 的本地智能体方案大概率会出现在工业质检与机器人巡检场景,因为 24GB 和 4GB 的内存门槛直接对应现有桌面 GPU 与嵌入式设备。从技术层面看,120B Super VL 主攻数据中心常驻智能体,而 Bolt 74B-A9B 采用总参 74B、激活 9B 的稀疏结构,把推理显存压到 24GB。作为 AI 视觉检测从业者,刘工注意到工业质检现场通常只有单张 24GB 显卡,过去部署 70B 模型需 4bit 量化且延迟不稳;Bolt 的激活稀疏化若真能实现每 GB 智能优化,将首次让 70B 级模型在单卡上稳定跑常驻任务。在商业维度上,英伟达的真正算盘是模型带动硬件:Super VL 吸引云服务商采购 H 系列,Bolt 拉动 RTX 工作站和 Jetson 销量。开源模型不直接赚钱,但能让开发者在 CUDA 上形成路径依赖。对行业而言,Meta Llama 和阿里 Qwen 将面临一个拥有芯片底层优化能力的对手。英伟达可以把模型、驱动、推理库联合调优,这是纯模型公司难以复制的。刘工预测,未来 12 个月内,主流边缘 AI 盒子会新增“支持 Nemotron 3.5 Bolt”作为卖点,类似当年“支持 Llama”的标签。不过风险在于,英伟达未公布基准分数和许可细节,若开源许可限制商用或实际速度不及宣传,社区迁移意愿会打折扣。

  • Nemotron 3.5 Super VL 参数规模 1200 亿,是 Bolt 74B-A9B 总参数 74B 的约 1.6 倍,两者分别面向数据中心与本地常驻智能体。
  • Bolt 74B-A9B 内存需求 24GB,对应单张 RTX 4090/5090 级别桌面 GPU;典型 70B 模型 FP16 推理约需 140GB 显存,即使 4bit 量化仍需约 35-40GB,因此 24GB 需依赖激活稀疏与量化组合。
  • Bolt E4B 内存需求 4GB,与 120B Super VL 形成约 30 倍参数规模差,目标设备从数据中心服务器延伸到 8GB 内存以下的嵌入式终端。
  • 英伟达未公布 Super VL 相对上一代的具体基准提升百分比,仅称其任务完成最快、准确率最高;对比重点因此落在内存效率而非绝对分数。

对行业而言,短期 3 个月内,开源社区会快速基于 Nemotron 3.5 Bolt 微调工业、医疗、机器人垂直模型,边缘智能体开发门槛下降;中期 1 年,英伟达可能通过 CUDA 与 TensorRT 联合优化,把模型性能与自家硬件绑定,挤压纯模型公司的端侧空间。对普通用户,短期可在高端桌面 PC 上运行 24GB 本地助手,隐私和响应速度优于纯云端方案;中期 1 年,个人智能体可能常驻笔记本和手机,4GB 模型让离线语音、视觉助手成为标配。风险在于,若开源许可限制商用,中小企业可能转向 Qwen 或 Llama。

值得继续思考的问题:

  • 英伟达如何用开源模型拉动 GPU 与 Jetson 硬件销售,形成软硬捆绑的生态闭环。
  • Bolt 74B-A9B 的激活稀疏结构能否让 70B 级模型在单张 24GB 桌面显卡上稳定运行常驻智能体。
  • 120B 开源模型对 Meta Llama、阿里 Qwen 等开源阵营的竞争格局与许可策略冲击。

延伸阅读:2026 主流 AI 大模型对比——不追热点也能长期有用的选型指南,收藏备用。

本条动态来自 NVIDIA Blog(发布于 2026-10-15 15:00:24)。本站为海外 AI 动态的中文转述与观点评论,原文版权归原作者所有。


每日聚合海外 AI 一手动态与深度观点。收藏本站,不错过每一个重要信号;返回首页查看更多。

转载声明:欢迎转载,请保留原文链接并注明出处「文峰雷达」。 · 商务与品牌合作:查看媒体与商务页
每日快讯 + 周日周评 · 可随时回复邮件退订 · 邮箱仅用于订阅通知,不会对外分享

留下评论

您的邮箱地址不会被公开。 必填项已用 * 标注

中文EN
联系刘工 · 媒体与商务 · 隐私政策 · 免责声明 · AI 声明 · 刘工周评
邮箱:wenfengleida@wenfengleida.cn