huihui-ai 发布 Qwen3.8-27B 去审查 GGUF 量化版
原标题：huihui-ai/Huihui-Qwen3.8-27B-abliterated-GGUF
AI 摘要
huihui-ai 在 Hugging Face 发布 Huihui-Qwen3.8-27B-abliterated-GGUF，这是基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝行为的无审查版本，并提供多种 GGUF 量化格式。该模型仅对第 22 至 52 层（部分版本为 17 至 52 层）进行消融，保留前 15 层及 MTP、视觉部分未修改，以尽量维持原模型性能。作者还针对不同来源（如 unsloth、ISTA-DASLab、prism-ml 等）的 GGUF 权重做了混合与量化测试，并说明三元混合注意力内核需使用 PrismML-Eng 的 llama.cpp 分支才能运行。
正文节选
--- library_name: transformers license: apache-2.0 pipeline_tag: image-text-to-text base_model: - Qwen/Qwen3.8-27B tags: - abliterated - uncensored - huihui - qwen3 - unsloth - ternary - 2-bit - llama-cpp - cuda - metal - on-device - hybrid-attention - prismml - bonsai --- # huihui-ai/Huihui-Qwen3.8-27B-abliterated-GGUF This is an uncensored version of [Qwen/Qwen3.8-27B](https://huggingface.co/Qwen/Qwen3.8-27B) created with abliteration (see [remove-refusals-with-transformers](https://github.