Ornith-1.5-35B-A3B 的 APEX-I-MiniPlus V2.1 GGUF 量化发布
原标题:IsValorum/Ornith-1.5-35B-A3B-APEX-I-MiniPlus-V2.1-GGUF
AI 摘要
Hugging Face 用户 IsValorum 发布了 Ornith-1.5-35B-A3B 的 GGUF 量化版本 APEX-I-MiniPlus-V2.1,基于 ornith-ai/Ornith-1.5-35B-A3B 做逐张量定制量化,体积控制在 14–15 GB,支持 24GB 显存工作站跑满 256K 上下文。发布页同时宣传其 V3 系列 Qwen3.8 27B 量化版本,并给出 WikiText-2 困惑度对比数据。
正文节选
--- base_model: ornith-ai/Ornith-1.5-35B-A3B base_model_relation: quantized quantized_by: IsValorum library_name: gguf pipeline_tag: image-text-to-text license: mit language: - en - zh - es - fr - de - pt - it - ru - ja - ko - vi - th - ar tags: - gguf - llama.cpp - quantized - quantization - apex - apex-quant - apex-i-miniplus - v2.1 - custom-quantization - unsloth-studio - qwen3.6 - qwen35moe