返回全部动态
Qwen3.8-Whittle-MoE-27B 发布 GGUF 量化版,修复推理中止问题
原标题:logic65/Qwen3.8-Whittle-MoE-27B-A17.8B-GGUF
AI 摘要
logic65 发布了 Qwen3.8-Whittle-MoE-27B-A17.8B 的 GGUF 量化版本,这是一个从 Qwen3.8-27B 中提取的混合专家模型,专注于改善停止生成行为。v2.2 版本修复了推理中止问题,但 GGUF 文件仍存在缺陷,建议关闭推理或使用 safetensors 版本。该模型提供多种量化等级,包括动态 DQ 系列,并支持 llama.cpp 和 Ollama 运行。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 base_model: logic65/Qwen3.8-Whittle-MoE-27B-A17.8B base_model_relation: quantized pipeline_tag: text-generation library_name: gguf tags: - gguf - qwen3_5_moe - gated-deltanet - whittle --- > ## These GGUF files are still v2.2 and still have the reasoning abort (29 Aug 2026) > > **The fix has shipped for the safetensors, but NOT yet for these quantised > tiers.** Every `.gguf` in this repo was built from v2.2 and still contains the > defective stop gate. Rebuilt tiers are
发布时间:2026-08-29 08:03
抓取时间:2026-08-28 18:49
来源机构:Hugging Face