英伟达发布 Nemotron-3.5-Super-VL-120B NVFP4 量化模型
原标题：nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4
AI 摘要
NVIDIA 在 Hugging Face 发布 Nemotron-3.5-Super-VL-120B-A12B-NVFP4，这是其视觉语言模型 Nemotron 3.5 Super VL 的 NVFP4 量化版本，通过量化感知蒸馏从 BF16 版本压缩而来，以降低显存需求。模型采用 Mamba-2、MoE 与注意力混合架构，搭配 C-RADIO 视觉编码器，总参数 120B、激活参数 12B，支持最长 1M token 上下文及文本、图像、视频输入，并具备原生多 token 预测投机解码能力。该模型可商用，支持在 DGX Spark、RTX PRO 6000、H200、H100、GB200 等硬件上部署，面向文本与视觉语言智能体的高效部署场景。
正文节选
--- library_name: transformers license: other license_name: openmdw-1.1 license_link: https://openmdw.ai/license/1-1/ pipeline_tag: image-text-to-text language: - en - es - fr - de - it - ja tags: - nvidia - pytorch - nemotron-3.5 track_downloads: true base_model: - nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 base_model_relation: quantized --- # NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4 <div align="center" style="line-height: 1;"> <a href="https://huggingface.co/collections/nvidia/