TAARDIS-27B 全三值量化模型发布:1.75bit 仅 5.9GB
原标题:CodeMasterCody3D/taardis-27b-full-ternary
AI 摘要
开发者 CodeMasterCody3D 在 Hugging Face 发布 TAARDIS-27B 全三值量化模型,基于 Qwen3.8-27B,将全部权重(含 LM head 与 embedding)压至 1.75 bit/权重、5.90 GB,并附带 496 个跨层低秩三值修正分支 The Doctors,使 Wikitext 困惑度从 13.61 降至 11.83。该模型需使用作者自建的 llama.cpp 分支运行,原版会输出乱码;作者称其单人 51 天完成,转换配方开源,体积小于 PrismML 的 Ternary-Bonsai-27B,但质量仍略低。
正文节选
--- license: apache-2.0 base_model: - Qwen/Qwen3.8-27B pipeline_tag: text-generation tags: - ternary - quantization - integer - gguf - llama.cpp - taardis library_name: gguf ---  # TAARDIS-27B — Full-Ternary Integer (V2) **Ternary Adaptive Alignment & Rotation for Dense Integer Stacking.** A 27-billion-parameter transformer at **1.75 bits per weight — 5.90 GB** — where **every weight is a ternary integer** `{-1, 0, +1} × scale`: body, attention, MLP,