返回全部动态
AtomicChat 发布 Qwen3.8-27B GGUF 量化模型
原标题:AtomicChat/Qwen3.8-27B-GGUF
AI 摘要
AtomicChat 发布了 Qwen3.8-27B 的 GGUF 量化版本,基于 Qwen 原始权重并使用自己的重要性矩阵进行量化。该模型支持文本生成和多模态(图像)输入,提供了多种量化级别,并附有详细的量化分析、运行指南和速度测试。用户可通过 llama.cpp 或 Atomic Chat 应用本地运行该模型。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
--- base_model: Qwen/Qwen3.8-27B base_model_relation: quantized quantized_by: AtomicChat pipeline_tag: text-generation library_name: gguf tags: - gguf - llama.cpp - qwen3.8 - qwen - imatrix - quantized - atomic-chat --- # How to Run Qwen3.8 27B Locally <p style="margin-top: 0; margin-bottom: 0;"> <em>Built from Qwen's original weights with our own importance matrix. The <a href="https://huggingface.co/datasets/AtomicChat/calib-corpora">calibration corpora</a> behind our builds are public.</em>
发布时间:2026-08-17 05:39
抓取时间:2026-08-16 21:26
来源机构:Hugging Face