Nvidia发布Nemotron 3.5 Super VL开源多模态模型

Nvidia 发布了 Nemotron 3.5 Super VL，这是一款专为后台持续运行的企业级 AI Agent 设计的开放多模态模型，拥有 1200 亿参数但采用混合专家架构，每 token 仅激活 120 亿参数。该模型由包含 Mistral AI、Perplexity 在内的 Nemotron Coalition 联合开发，旨在解决企业在数据隐私和定制化方面的需求，允许客户在自有服务器上微调并运行，摆脱公有云服务商的服务条款限制。 在技术细节上，Super VL 通过蒸馏自 Nemotron 3 Ultra 实现了约五分之一参数下的同等准确率，并在 Hermes 和 LangChain 的 Agent 测试中表现优于 Ultra。针对企业高频调用场景，Nvidia 推出了 NVFP4 压缩格式和 Dynamo 推理软件，利用缓存机制将并发用户支持能力提升八倍，首字生成时间缩短 85%。此外，Nvidia 还同步发布了 Bolt 74B-A9B（24GB）和 Bolt E4B（4GB）两款面向本地设备的紧凑型模型，前者需依赖高显存工作站如 DGX Spark 或 RTX Spark，后者计划稍后推出以适配更广泛的消费级显卡。 尽管 Nvidia 声称该模型在 Hugging Face 等平台上完全开源并提供训练数据集，但其核心战略仍是通过优化自家硬件来驱动销售。文章指出，虽然 Meta、Google 等公司正在构建自己的芯片与模型生态，但 Nvidia 通过向 Hugging Face 投资 129 亿美元巩固了其在开源分发渠道的地位。事实层面，Super VL 确实在特定基准上超越了部分竞品且速度更快；推断层面，这种“开源换硬件”的模式可能成为未来 AI 基础设施竞争的关键路径；猜测层面，随着更多企业采用此方案，Nvidia 数据中心 GPU 的需求量可能会因开源模型的广泛部署而进一步激增。