Ternary Bonsai 2 27B 去审查 v2 量化模型发布
原标题：BoldingBuilds/Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-GGUF
AI 摘要
开发者 BoldingBuilds 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-GGUF，基于 PrismML 的三值（ternary）2-bit 量化 Bonsai 2 27B 模型做“abliterated”（去除拒答）微调，并修改输出层中 </think> token 的一行权重，使模型在推理完成后及时结束思考、减少空回答。作者称在 StrongReject 有害请求测试中得分 0.941、仅 7/150 无回答，优于多个同类 abliterated 版本，MTP 文件解码约快 40%。该模型需 PrismML 的 llama.cpp 分支加载，主线和 Ollama 等不兼容其 PQ2_0 格式。
正文节选
--- license: apache-2.0 library_name: gguf pipeline_tag: text-generation base_model: prism-ml/Ternary-Bonsai-2-27B-gguf tags: - gguf - qwen3_5 - ternary - 2-bit - abliterated - uncensored - reasoning - mtp - speculative-decoding - vision - multimodal --- # Ternary Bonsai 2 27B — Abliterated v2, PQ2_0, with optional MTP **v2 is built to be run with thinking on.** Abliterated Bonsai 2 builds, my own v1 included, tend to write the whole answer inside their reasoning and run out of budget before h