NVIDIA 发布 DeepSeek-V4.1-Flash NVFP4 量化模型
原标题:nvidia/DeepSeek-V4.1-Flash-NVFP4
AI 摘要
NVIDIA 在 Hugging Face 上发布了 DeepSeek-V4.1-Flash-NVFP4,这是对 DeepSeek AI 的 DeepSeek-V4.1-Flash 模型进行 NVFP4 量化后的版本,使用 NVIDIA Model Optimizer(v0.47.0rc0)完成。该模型为原生多模态 MoE 架构,总参数 552B,prefill 激活 8B、decode 激活 16B,另含 196B Engram 条件记忆,支持最长 100 万 token 上下文。10/14/2026 更新将 Engram 查找表从 FP8 转为 MXFP4,需搭配含对应 PR 的 vLLM 构建或回退旧版本使用。
正文节选
--- pipeline_tag: image-text-to-text base_model: - deepseek-ai/DeepSeek-V4.1-Flash license: mit library_name: Model Optimizer tags: - nvidia - ModelOpt - DeepSeekV4 - quantized - FP4 - fp4 --- # Model Overview ## Description: The NVIDIA DeepSeek-V4.1-Flash NVFP4 model is the quantized version of DeepSeek AI's DeepSeek-V4.1-Flash model, which is an auto-regressive language model that uses an optimized transformer architecture. DeepSeek-V4.1-Flash is a natively multimodal Mixture-of-Experts (MoE