AtomicChat 发布 Qwen3.8-Flash-Next GGUF 量化版
原标题：AtomicChat/Qwen3.8-Flash-Next-GGUF
AI 摘要
AtomicChat 在 Hugging Face 发布了 Qwen3.8-Flash-Next 的 GGUF 量化版本，基于 Qwen 官方权重并使用自有重要性矩阵自行量化，校准语料公开。该模型为 177B 参数 MoE 多模态架构，其中 51B 参数为 n-gram 查找表，可常驻 SSD 而不进入内存，使 85GB 量化文件能在 64GB 内存的 M5 Max MacBook 上以 36 tok/s 运行。发布方推荐 4.27bpw 的 Q4_K_M 版本，并强调在 Apple Silicon 上查找表需独立分片，否则会因 Metal 内存分配失败而崩溃。
正文节选
--- license: other license_name: qwen-community-1.0 license_link: https://huggingface.co/Qwen/Qwen3.8-Flash-Next/blob/main/LICENSE base_model: - Qwen/Qwen3.8-Flash-Next base_model_relation: quantized quantized_by: AtomicChat pipeline_tag: text-generation library_name: gguf tags: - atomic-chat - qwen - qwen3.8 - flash-next - moe - multimodal - gguf - imatrix - quantized - llama.cpp --- # How to Run Qwen3.8-Flash-Next Locally <p style="margin-top: 0; margin-bottom: 0;"> <em>Built from Qwen's or