mradermacher 发布 Huihui-Qwen3.8-27B 去审查模型 GGUF 量化版
原标题：mradermacher/Huihui-Qwen3.8-27B-abliterated-GGUF
AI 摘要
开发者 mradermacher 在 Hugging Face 上发布了 Huihui-Qwen3.8-27B-abliterated 模型的静态 GGUF 量化版本，提供从 Q2_K 到 Q8_0 以及 IQ4_XS 等多种量化规格，并附带多模态 mmproj 文件。该模型基于 huihui-ai 的去审查（abliterated）Qwen3.8-27B 模型，采用 apache-2.0 许可，方便用户在本地以不同显存预算运行。
正文节选
--- base_model: huihui-ai/Huihui-Qwen3.8-27B-abliterated language: - en library_name: transformers license: apache-2.0 mradermacher: readme_rev: 1 quantized_by: mradermacher tags: - abliterated - uncensored - huihui - qwen3 --- ## About <!-- ### quantize_version: 2 --> <!-- ### output_tensor_quantised: 1 --> <!-- ### convert_type: hf --> <!-- ### vocab_type: --> <!-- ### tags: --> <!-- ### quants: x-f16 Q4_K_S Q2_K Q8_0 Q6_K Q3_K_M Q3_K_S Q3_K_L Q4_K_M Q5_K_S Q5_K_M IQ4_XS --> <!-- ### qua