Qwen3.6-27B-Omnimerge-v4 发布 GGUF 量化版
原标题:ManniX-ITA/Qwen3.6-27B-Omnimerge-v4-GGUF
AI 摘要
ManniX-ITA 发布了 Qwen3.6-27B-Omnimerge-v4 的 GGUF 量化版本,基于 Qwen3.6 基础模型与三个微调模型的 DARE-TIES 合并,并采用 MLP-passthrough 技术以规避 Qwen3.6 的推理标签脆弱性。该模型在 HumanEval、MBPP 和 GPQA 基准上表现优于前代 Omnimerge-v2,并提供从 F16 到 IQ2_XXS 的完整量化阶梯,支持 llama.cpp 推理。
正文节选
--- base_model: ManniX-ITA/Qwen3.6-27B-Omnimerge-v4 base_model_relation: quantized license: apache-2.0 language: - en tags: - gguf - imatrix - quantized - merge - mergekit - qwen3_5 - reasoning - code pipeline_tag: image-text-to-text library_name: gguf --- # Qwen3.6-27B-Omnimerge-v4-GGUF GGUF quantizations of [`ManniX-ITA/Qwen3.6-27B-Omnimerge-v4`](https://huggingface.co/ManniX-ITA/Qwen3.6-27B-Omnimerge-v4) — the **MLP-passthrough** variant that defends against the Qwen3.6 thin