返回全部动态
bartowski 发布 Qwen3.8-27B GGUF 量化版
原标题：bartowski/Qwen3.8-27B-GGUF
AI 摘要
bartowski 发布了 Qwen3.8-27B 的 GGUF 量化版本，使用 llama.cpp b10896 进行 imatrix 量化，支持文本与图像输入（需 mmproj 文件）以及 MTP 推测解码。该版本于 2026-11-09 更新，采用新的 tensor-layout 重新上传，并提供了各量化档位的文件大小、bpw、PPL 与 KLD 等指标，方便本地部署选择。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- quantized_by: bartowski pipeline_tag: image-text-to-text --- ## Llamacpp imatrix Quantizations of Qwen3.8-27B by Qwen Using <a href="https://github.com/ggml-org/llama.cpp/">llama.cpp</a> release <a href="https://github.com/ggml-org/llama.cpp/releases/tag/b10896">b10896</a> for quantization. Original model: https://huggingface.co/Qwen/Qwen3.8-27B **Model details:** - Parameter count: 28B - Input support: text, image (with mmproj file) - [details](#multimodal) - Speculative decoding: yes (
发布时间：2026-09-13 13:36
抓取时间：2026-09-12 03:40
来源机构：Hugging Face