Muse-Glimmer-30B 无审查量化版发布：27 种 GGUF 覆盖多硬件
原标题：0bserverx/Muse-Glimmer-30B-Heretic-Uncensored-GGUF
AI 摘要
0bserverx 发布了 Muse-Glimmer-30B-Heretic-Uncensored-GGUF，这是基于 Meta 的 Muse-Glimmer-30B 模型，通过 Heretic v1.4.0 进行 abliteration 处理，并提供了 27 种 GGUF 量化版本，内存占用从 6.53 GB 到 55.73 GB 不等。该模型支持视觉-语言任务，上下文长度达 131K，且据称对成人内容零拒绝。量化版本覆盖从 CPU 到 32GB VRAM 的多种硬件，所有低比特量化均使用 imatrix 校准以减少质量损失。
正文节选
--- license: apache-2.0 base_model: - meta-models/Muse-Glimmer-30B library_name: transformers tags: - llama.cpp - gguf - quantization - vision-language-model - image-text-to-text - abliterated - uncensored - heretic - darkc0de language: - en - multilingual pipeline_tag: image-text-to-text --- # Muse-Glimmer-30B-Heretic-Uncensored-GGUF ## Abstract This repository disseminates a comprehensive suite of 27 GGUF (GPT-Generated Unified Format) quantizations of **Muse-Glimmer-30B-Heretic-Uncensored*