Swift-Qwen3.8-27B 去审查版 GGUF 量化模型发布
原标题:ajgazin/Swift-Qwen3.8-27B-Uncensored-Dynamic-MTP-GGUF
AI 摘要
Hugging Face 用户 ajgazin 发布了 Swift-Qwen3.8-27B-Uncensored-Dynamic-MTP-GGUF,这是对已去审查(abliterated)的 Swift-Qwen3.8-27B 模型进行 GGUF 量化的版本。该模型采用 Unsloth Dynamic 3.0 量化布局,包含 MTP 头以支持 llama.cpp 自推测解码,并附带视觉投影器支持图像和视频输入。发布方提供了从 9.2 GiB 到 50.9 GiB 的多种量化规格及详细的 KL 散度质量对比数据。
正文节选
--- license: other license_name: swift-open-license-1.0 license_link: https://huggingface.co/ukisai/Swift-Qwen3.8-27b library_name: gguf pipeline_tag: image-text-to-text base_model: - ajgazin/Swift-Qwen3.8-27B-Uncensored-MTP base_model_relation: quantized tags: - gguf - llama.cpp - qwen3_8 - abliterated - uncensored - unsloth - imatrix - dynamic-quant - mtp --- # Swift-Qwen3.8-27B-Uncensored-Dynamic-MTP-GGUF GGUF quants of [ajgazin/Swift-Qwen3.8-27B-Uncensored-MTP](https://huggingface.co/ajgaz