Blackfrost 发布 Muse Glimmer 30B 去拒绝 GGUF 量化版
原标题:Blackfrost-AI/Muse-Glimmer-30B-Abliterated-GGUF
AI 摘要
Blackfrost-AI 发布了 Muse-Glimmer-30B-Abliterated-GGUF,这是基于 Meta 的 Muse Glimmer 30B 模型去除拒绝行为后的 GGUF 量化版本,支持本地运行。该模型提供从 Q2_K 到 Q8_0 的完整量化阶梯,并包含视觉投影器和 DFlash 投机解码器,在 RTX PRO 6000 上可实现约 1.6 倍加速。模型在 R1-HARMFUL-BENCH-450 基准上实现了 0% 的真实拒绝率,但被标记为实验性,可能存在边缘问题。
正文节选
--- license: apache-2.0 base_model: - Blackfrost-Research/Muse-Glimmer-30B-Abliterated-BF16 tags: - muse-glimmer - gguf - abliterated - quantized - agentic - multimodal - llama.cpp - dflash - experimental pipeline_tag: image-text-to-text library_name: gguf ---  <div align="center"> <h1>MUSE-GLIMMER-30B-ABLITERATED-GGUF</h1> <h3>GGUF quant ladder of the abliterated Muse Glimmer 3