返回全部动态
mradermacher 发布 gemma-4-31B-it-abliterated 的 GGUF 量化版本
原标题：mradermacher/gemma-4-31B-it-abliterated-GGUF
AI 摘要
开发者 mradermacher 在 Hugging Face 发布了 gemma-4-31B-it-abliterated 的 GGUF 静态量化版本，基于 wangzhang 的 abliterated（去审查）模型，提供从 Q2_K 到 Q8_0 的多种量化档位。该发布让用户可在本地以较低显存运行这一 31B 去审查模型，并另有 imatrix 加权量化版本可用。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- base_model: wangzhang/gemma-4-31B-it-abliterated language: - en library_name: transformers license: apache-2.0 license_link: LICENSE mradermacher: readme_rev: 1 quantized_by: mradermacher tags: - abliterated - uncensored - gemma4 - direct-weight-editing - abliterix - vllm - llm-judge --- ## About <!-- ### quantize_version: 2 --> <!-- ### output_tensor_quantised: 1 --> <!-- ### convert_type: hf --> <!-- ### vocab_type: --> <!-- ### tags: --> <!-- ### quants: x-f16 Q4_K_S Q2_K Q8_0 Q6_K
发布时间：2026-10-30 06:06
抓取时间：2026-10-30 06:07
来源机构：Hugging Face