AMD 发布 Qwen3.8-Flash-Next MXFP4 量化模型
原标题：amd/Qwen3.8-Flash-Next-Quark-MXFP4
AI 摘要
AMD 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 MXFP4 量化版本，使用 AMD-Quark 将 MoE 路由专家与共享专家权重及激活量化为 OCP MXFP4，注意力等其余部分保持 bf16。该模型面向 AMD MI350/MI355 硬件与 ROCm 7.2.3，通过 vLLM 推理，在 GSM8K、GPQA Diamond、AIME26、MMMU Pro 等基准上相对原模型精度恢复率约 98.75%-102.71%。
正文节选
--- base_model: - Qwen/Qwen3.8-Flash-Next language: - en library_name: transformers license: other license_link: https://huggingface.co/amd/Qwen3.8-Flash-Next-Quark-MXFP4/blob/main/LICENSE --- # Model Overview - **Model Architecture:** Qwen4ExpForConditionalGeneration - **Input:** Text, Image, Video - **Output:** Text - **Supported Hardware Microarchitecture:** AMD MI350 / MI355 - **ROCm**: 7.2.3 - **PyTorch**: 2.12.0+git6bbd260 - **Transformers**: 5.16.1 - **Operating System(s):** Linux -