mradermacher 发布 Qwen3.8-27B-Uncensored-FP8 的 GGUF 量化版
原标题:mradermacher/Qwen3.8-27B-Uncensored-FP8-GGUF
AI 摘要
Hugging Face 用户 mradermacher 发布了 Qwen3.8-27B-Uncensored-FP8 的静态 GGUF 量化版本,提供从 Q2_K 到 Q8_0 的多种量化文件以及多模态补充文件,并附有加权/imatrix 量化版本链接。该模型基于 orcarouter 的去审查(uncensored/abliterated)FP8 版本,采用 Apache-2.0 许可,支持函数调用、推理等能力,方便本地部署使用。
正文节选
--- base_model: orcarouter/Qwen3.8-27B-Uncensored-FP8 language: - en - zh library_name: transformers license: apache-2.0 mradermacher: readme_rev: 1 quantized_by: mradermacher tags: - abliterated - qwen3.8 - uncensored - ai-red-team - red-teaming - fp8 - block-fp8 - vllm - function-calling - reasoning - mtp --- ## About <!-- ### quantize_version: 2 --> <!-- ### output_tensor_quantised: 1 --> <!-- ### convert_type: hf --> <!-- ### vocab_type: --> <!-- ### tags: --> <!-- ### quants: x-f16 Q4