IsValorum 发布 KAT-Coder-V2.5-Dev APEX-I-MiniPlus-V2.1 GGUF 量化版

AI 摘要

IsValorum 在 Hugging Face 发布了 KAT-Coder-V2.5-Dev 的 GGUF 量化版本 APEX-I-MiniPlus-V2.1，基于 Kwaipilot/KAT-Coder-V2.5-Dev 模型，采用逐张量定制量化方案，主打在 13–14 GB 体积内实现接近 Q5/Q6 的保真度，并支持 24GB 显存工作站运行完整 256K 上下文。发布说明同时列出了同系列 Qwen3.8 27B 与 Qwen3.6-35B-A3B MoE 等多个量化版本及其 WikiText-2 PPL 对比数据。

正文节选

--- base_model: Kwaipilot/KAT-Coder-V2.5-Dev quantized_by: IsValorum library_name: gguf language: - en - zh - es - fr - de - pt - it - ru - ja - ko - vi - th - ar tags: - gguf - quantized - quantization - apex - apex-quant - custom-quantization - unsloth-studio - moe - reasoning - llama.cpp - qwen35moe license: apache-2.0 pipeline_tag: text-generation --- > [!NOTE] > ### NEW: QWEN3.8 27B DENSE — VAL-APEX-I [![Support on Ko-fi](https:

发布时间：2026-10-09 06:55

抓取时间：2026-10-09 06:58

来源机构：Hugging Face