返回全部动态

TAARDIS-27B 全三值量化模型发布:1.75bit 仅 5.9GB

原标题:CodeMasterCody3D/taardis-27b-full-ternary

Hugging Face New and Trending Models一手来源模型发布质量 73

AI 摘要

开发者 CodeMasterCody3D 在 Hugging Face 发布 TAARDIS-27B 全三值量化模型,基于 Qwen3.8-27B,将全部权重(含 LM head 与 embedding)压至 1.75 bit/权重、5.90 GB,并附带 496 个跨层低秩三值修正分支 The Doctors,使 Wikitext 困惑度从 13.61 降至 11.83。该模型需使用作者自建的 llama.cpp 分支运行,原版会输出乱码;作者称其单人 51 天完成,转换配方开源,体积小于 PrismML 的 Ternary-Bonsai-27B,但质量仍略低。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- license: apache-2.0 base_model: - Qwen/Qwen3.8-27B pipeline_tag: text-generation tags: - ternary - quantization - integer - gguf - llama.cpp - taardis library_name: gguf --- ![TAARDIS](TAARDIS-new.png) # TAARDIS-27B — Full-Ternary Integer (V2) **Ternary Adaptive Alignment & Rotation for Dense Integer Stacking.** A 27-billion-parameter transformer at **1.75 bits per weight — 5.90 GB** — where **every weight is a ternary integer** `{-1, 0, +1} × scale`: body, attention, MLP,


发布时间:2026-09-16 12:48
抓取时间:2026-09-11 18:12
来源机构:Hugging Face
阅读原文huggingface.co