PAW-27B-X3.1-GGUF：Qwen3.8-27B 量化版发布
原标题：lackonendes/PAW-27B-X3.1-GGUF
AI 摘要
开发者 lackonendes 在 Hugging Face 发布 PAW-27B-X3.1-GGUF，这是对 Qwen/Qwen3.8-27B 的量化版本更新，采用 trellis-codec 与 PAW 方案，可在单张 RTX 3090（24GB 显存）上以 262,144 token 全上下文运行，生成速度约 129 tok/s。相比前代 X3，相同文件体积下质量损失更低；3.5bpw 版本在 AIME 2026、GPQA-Diamond、MMLU-Pro 等基准上对 BF16 基线保持约 97%–102% 的保留率。该模型需配合非官方分支 llama-paw 使用，原版 llama.cpp 无法读取。
正文节选
--- license: apache-2.0 base_model: Qwen/Qwen3.8-27B library_name: gguf tags: - quantization - trellis-codec - paw - gguf --- # PAW-27B-X3.1 _If this model is useful to you, support the work by following [@nawariokra](https://x.com/nawariokra) on X, or buy me a coffee on [Ko-fi](https://ko-fi.com/lackonendes)._ Run `Qwen/Qwen3.8-27B` with good quality on a single RTX 3090 (24 GB VRAM) at full 262,144-token context — 129 tok/s generation, up to 1268 tok/s prompt processing. This is an update t