Cyber-Tiel-Coder-35B-A3B-MTP 的 TTQ GGUF 量化系列发布
原标题:TokenTinkerer/Cyber-Tiel-Coder-35B-A3B-MTP-TTQ-GGUF
AI 摘要
Hugging Face 用户 TokenTinkerer 发布了 Cyber-Tiel-Coder-35B-A3B-MTP 模型的 TTQ 量化系列,共 10 个 GGUF 量化档位(3.34 至 6.64 bpw),基于上游 UD-Q8_K_XL 再量化。作者称在同等体积下,该系列在代码语料全部 7 个匹配尺寸和 wikitext 的 6 个尺寸上 KLD 均优于原作者量化档位,代码上低 6–13%,文本上最多低 20%。该模型为 abliterated(无审查)版本,作者提示存在安全风险,需在系统层面隔离运行。
正文节选
--- base_model: peculiar-ragdoll/Cyber-Tiel-Coder-35B-A3B-GGUF-MTP base_model_relation: quantized library_name: llama.cpp pipeline_tag: text-generation language: - en - zh tags: - gguf - llama.cpp - quantized - imatrix - moe - mtp - speculative-decoding - qwen35moe - uncensored - abliterated - custom-quants - ttq license: mit --- # Cyber-Tiel-Coder-35B-A3B-MTP — TTQ quant set **TTQ** (TokenTinkerer Quant) is a ten-rung GGUF ladder built from [peculiar-ragdoll/Cyber-