mradermacher 发布 Qwen3-Next 80B 模型多量化 GGUF 版本
原标题:mradermacher/Qwen3-Next-80B-A3B-Thinking-GRPO-Uncensored-i1-GGUF
AI 摘要
mradermacher 发布了 Qwen3-Next-80B-A3B-Thinking-GRPO-Uncensored 模型的 GGUF 量化版本,基于 puwaer 的原始模型,提供多种 i1 和 imatrix 量化格式,文件大小从 16.3GB 到 55.1GB 不等。该模型支持中英日多语言,采用 CC-BY-NC-SA-4.0 许可,旨在为本地部署提供高效推理选项。
正文节选
--- base_model: puwaer/Qwen3-Next-80B-A3B-Thinking-GRPO-Uncensored language: - en - zh - ja library_name: transformers license: cc-by-nc-sa-4.0 mradermacher: readme_rev: 1 quantized_by: mradermacher --- ## About <!-- ### quantize_version: 2 --> <!-- ### output_tensor_quantised: 1 --> <!-- ### convert_type: hf --> <!-- ### vocab_type: --> <!-- ### tags: nicoboss --> <!-- ### quants: Q2_K IQ3_M Q4_K_S IQ3_XXS Q3_K_M small-IQ4_NL Q4_K_M IQ2_M Q6_K IQ4_XS Q2_K_S IQ1_M Q3_K_S IQ2_XXS Q3_K_L IQ2_