Scion-35B-A3B：11.3GB 三值量化 MoE 模型发布
原标题：SkyIsNotGreen/Scion-35B-A3B
AI 摘要
Hugging Face 用户 SkyIsNotGreen 发布了 Scion-35B-A3B，这是一个基于 empero-ai/Qwen3.8-35B-A3B-Distill 量化的 35B-A3B MoE 模型，采用三值专家库加训练校正，以 11.34 GB 的单个 GGUF 文件（2.61 bpw）供 llama.cpp 使用，比 BF16 参考小 6.3 倍。作者在单张 RX 7900 XT 上测得约 118 tok/s 生成速度，GSM8K pass@1 为 88.7%，并称任务保持达到 Q4 级别。可选的 MTP 草稿头在部分负载上带来 7%-33% 的加速，但会改变生成文本，因此并非逐位精确。
正文节选
--- library_name: llama.cpp model_name: Scion-35B-A3B base_model: empero-ai/Qwen3.8-35B-A3B-Distill base_model_relation: quantized license: apache-2.0 language: - en pipeline_tag: text-generation tags: - ternary - 2-bit - pq2_0 - gguf - llama-cpp - moe - qwen3.8 - quantized - scion - speculative-decoding - draft-model - mtp --- <p align="center"> <a href="https://github.com/sky-is-green/scion"><b>GitHub: Build-scripts and docs</b></a> | <a href="https://github.com/sky-is-green/b