返回全部动态

NVIDIA 发布 DeepSeek-V4.1-Flash NVFP4 量化模型

原标题:nvidia/DeepSeek-V4.1-Flash-NVFP4

Hugging Face New and Trending Models一手来源模型发布质量 79

AI 摘要

NVIDIA 在 Hugging Face 上发布了 DeepSeek-V4.1-Flash-NVFP4,这是对 DeepSeek AI 的 DeepSeek-V4.1-Flash 模型进行 NVFP4 量化后的版本,使用 NVIDIA Model Optimizer(v0.47.0rc0)完成。该模型为原生多模态 MoE 架构,总参数 552B,prefill 激活 8B、decode 激活 16B,另含 196B Engram 条件记忆,支持最长 100 万 token 上下文。10/14/2026 更新将 Engram 查找表从 FP8 转为 MXFP4,需搭配含对应 PR 的 vLLM 构建或回退旧版本使用。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- pipeline_tag: image-text-to-text base_model: - deepseek-ai/DeepSeek-V4.1-Flash license: mit library_name: Model Optimizer tags: - nvidia - ModelOpt - DeepSeekV4 - quantized - FP4 - fp4 --- # Model Overview ## Description: The NVIDIA DeepSeek-V4.1-Flash NVFP4 model is the quantized version of DeepSeek AI's DeepSeek-V4.1-Flash model, which is an auto-regressive language model that uses an optimized transformer architecture. DeepSeek-V4.1-Flash is a natively multimodal Mixture-of-Experts (MoE


发布时间:2026-10-15 00:40
抓取时间:2026-10-15 00:41
来源机构:Hugging Face
阅读原文huggingface.co