Ornith-1.5-35B-A3B 去审查版 ICE GGUF 量化发布
原标题:gbuzhf/Ornith-1.5-35B-A3B-Huihui-Sangreal-MTP-ICE-GGUF
AI 摘要
开发者 gbuzhf 在 Hugging Face 发布了 Ornith-1.5-35B-A3B 的 GGUF 量化版本,基于 huihui-ai 的 abliterated(去拒答)检查点,采用 Sangreal 重要性矩阵与 ICE 1.6/2.0 量化配方,提供 12G 至 25G 五档文件并保留 MTP 草稿层。作者给出各档相对 BF16 的 KL 散度与 top-1 一致率评测,并演示在 RTX 3070(8GB 显存)上单次生成完整浏览器游戏。该模型为无审查版本,作者提示需在系统层面隔离并限制其网络与代码执行权限。
正文节选
--- license: mit base_model: - ornith-ai/Ornith-1.5-35B-A3B - huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated base_model_relation: quantized pipeline_tag: text-generation library_name: gguf language: - en - zh tags: - gguf - qwen35moe - moe - mtp - sangreal - ICE - ice-quant - imatrix - abliterated - uncensored --- # Ornith-1.5-35B-A3B — Huihui × Sangreal ICE GGUF GGUF quantizations of huihui-ai's abliterated [Ornith-1.5-35B-A3B](https://huggingface.co/huihui-ai/Huihui-