DavidAU 发布 Qwen3 0.8B 代码推理模型 GGUF 量化版
原标题:DavidAU/Qwen3-Zero-Coder-Reasoning-V2-0.8B-NEO-EX-GGUF
AI 摘要
Hugging Face 用户 DavidAU 发布了 Qwen3-Zero-Coder-Reasoning-V2-0.8B-NEO-EX-GGUF,这是一个基于 Qwen3 平台、由两个 0.6B 模型合并而成的 0.8B 代码生成与推理模型,提供多种 NEO Imatrix 量化版本。作者称其在中等硬件上可达 150 t/s 以上、纯 CPU 也能超过 50 t/s,并建议用户下载多个量化版本对比使用。
正文节选
--- license: apache-2.0 language: - en pipeline_tag: text-generation tags: - merge - programming - code generation - code - codeqwen - coding - coder - qwen3 - chat - qwen - qwen-coder - code - chat - reasoning - thinking - r1 - cot - deepseek - 40k context - general usage - problem solving - brainstorming - solve riddles - general usage base_model: - DavidAU/Qwen3-Zero-Coder-Reasoning-V2-0.8B --- <small><B style="font-family: 'Arial Black', sans-serif; font-weight: 900; color: #f1c40f; text-de