返回全部动态

ISTA-DASLab 发布 Qwen3.8-27B 非均匀量化 GGUF 模型

原标题:ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF

Hugging Face New and Trending Models一手来源模型发布质量 84

AI 摘要

ISTA-DASLab 发布了 Qwen3.8-27B 的 GSQ-RCO GGUF 量化版本,提供四种非均匀量化文件及视觉投影器,支持多模态使用。这些量化通过 GSQ 和 RCO 方法实现,在保持任务无损的同时显著减小模型体积,并兼容 llama.cpp、Ollama 和 LM Studio。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- base_model: Qwen/Qwen3.8-27B base_model_relation: quantized pipeline_tag: text-generation library_name: gguf license: apache-2.0 tags: - gguf - gsq - rco - quantization - mixed-precision - ist-daslab --- <!-- GSQ-RCO GGUF release card, TEMPLATE (filled with Qwen3.8-27B as the example). To publish a new model, copy this folder and change only: 1. the YAML frontmatter above (base_model, license) 2. every field marked [swap] (model name, filenames, one-line summaries


发布时间:2026-09-01 22:32
抓取时间:2026-09-01 19:17
来源机构:Hugging Face
阅读原文huggingface.co