NVIDIA Qwen3.8-Flash-Next NVFP4 权重转换为 Strata 格式
原标题：Maximilian228/Qwen3.8-Flash-Next-NVIDIA-NVFP4-Strata
AI 摘要
Hugging Face 用户 Maximilian228 将 NVIDIA 的 Qwen3.8-Flash-Next-NVFP4 检查点（由 NVIDIA Model Optimizer 量化）转换为 Strata NVFP4 引擎可读的文件格式，权重本身未改动。该 125B 混合 MoE 模型因此可在单张 RTX 20-50 显卡（12GB 以上显存）加 64GB 以上内存的桌面 PC 上全速运行，而 NVIDIA 原检查点面向 B200/B300 服务器上的 vLLM。作者还给出了与 Q8_0、Unsloth GGUF、ISTA-DASLab 等量化版本的精度与速度对比表。
正文节选
--- license: other license_name: nvidia-open-model-license license_link: https://huggingface.co/Maximilian228/Qwen3.8-Flash-Next-NVIDIA-NVFP4-Strata/blob/main/LICENSE-NVIDIA-Open-Model-License.txt base_model: - nvidia/Qwen3.8-Flash-Next-NVFP4 base_model_relation: quantized pipeline_tag: text-generation library_name: strata language: - en - zh tags: - nvfp4 - modelopt - nvidia - strata - moe - qwen3.8 - flash-next - mtp --- # NVIDIA's Qwen3.8-Flash-Next-NVFP4, converted for Strata > **Quantized