Nvidia Nemotron 3.5 Super VL 发布,以开放权重策略强化其硬件生态绑定
Nvidia's Nemotron 3.5 Super VL is an open model built to run enterprise AI agents nonstop
Nvidia 发布了 Nemotron 3.5 Super VL,这是一款专为后台持续运行的企业级 AI Agent 设计的开放多模态模型,拥有 1200 亿参数但采用混合专家架构,每 token 仅激活 120 亿参数。该模型由包含 Mistral AI、Perplexity 在内的 Nemotron Coalition 联合开发,旨在解决企业在数据隐私和定制化方面的需求,允许客户在自有服务器上微调并运行,摆脱公有云服务商的服务条款限制。
在技术细节上,Super VL 通过蒸馏自 Nemotron 3 Ultra 实现了约五分之一参数下的同等准确率,并在 Hermes 和 LangChain 的 Agent 测试中表现优于 Ultra。针对企业高频调用场景,Nvidia 推出了 NVFP4 压缩格式和 Dynamo 推理软件,利用缓存机制将并发用户支持能力提升八倍,首字生成时间缩短 85%。此外,Nvidia 还同步发布了 Bolt 74B-A9B(24GB)和 Bolt E4B(4GB)两款面向本地设备的紧凑型模型,前者需依赖高显存工作站如 DGX Spark 或 RTX Spark,后者计划稍后推出以适配更广泛的消费级显卡。
尽管 Nvidia 声称该模型在 Hugging Face 等平台上完全开源并提供训练数据集,但其核心战略仍是通过优化自家硬件来驱动销售。文章指出,虽然 Meta、Google 等公司正在构建自己的芯片与模型生态,但 Nvidia 通过向 Hugging Face 投资 129 亿美元巩固了其在开源分发渠道的地位。事实层面,Super VL 确实在特定基准上超越了部分竞品且速度更快;推断层面,这种“开源换硬件”的模式可能成为未来 AI 基础设施竞争的关键路径;猜测层面,随着更多企业采用此方案,Nvidia 数据中心 GPU 的需求量可能会因开源模型的广泛部署而进一步激增。
材料揭示了Nvidia通过开放权重换取硬件绑定的商业闭环,以及Bolt系列对端侧显存门槛的硬性约束。
来源:The Decoder · the-decoder.com