Qwen3.8-27B 混合量化 GGUF：GSQ 与 Orca 去审查权重
原标题：ayozhee/Qwen3.8-27B-Abliterated-GSQ-Orca-GGUF
AI 摘要
作者发布了首个开源模型 Qwen3.8-27B-Abliterated-GSQ-Orca-GGUF，将 GSQ 的 IQ2_S 量化权重与 OrcaRouter 的 abliterated 权重通过选择性张量替换混合，保留 866 个张量中的 735 个，替换 131 个矩阵，面向 RTX 3060 12GB 等小显存本地推理。模型在 IFEval、GSM8K、HumanEval 小样本测试中与 GSQ 基线接近，并在一个真实编码任务中通过 15/15 功能检查，解码速度约 35.65 tokens/s。
正文节选
--- license: apache-2.0 base_model: - ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF - orcarouter/Qwen3.8-27B-Uncensored library_name: gguf pipeline_tag: text-generation tags: - gguf - qwen3.8 - abliterated - mixed-precision - experimental - mtp --- # Qwen3.8 27B Abliterated · GSQ–Orca Hybrid > **Update — September 27, 2026: IQ3_S-MTP is now available!** > > Added [Qwen3.8-27B-Abliterated-GSQ-Orca-IQ3_S-MTP.gguf](./Qwen3.8-27B-Abliterated-GSQ-Orca-IQ3_S-MTP.gguf) — **12.12 GB / 11.29 GiB