返回全部动态
LocalAI 发布 Qwopus3.6-35B-A3B-Coder APEX-MTP GGUF 量化模型
原标题：mudler/Qwopus3.6-35B-A3B-Coder-APEX-MTP-GGUF
AI 摘要
LocalAI 团队发布了 Qwopus3.6-35B-A3B-Coder 的 APEX-MTP GGUF 量化版本，该模型基于 Qwen3.6-35B-A3B 架构，内置 MTP 多头预测头，支持自推测解码，无需单独草稿模型。提供了多种量化配置，包括 I-Balanced、I-Quality 等，并包含视觉投影器，支持图像理解。该发布旨在提升 MoE 模型在消费级硬件上的推理效率。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 base_model: Jackrong/Qwopus3.6-35B-A3B-Coder tags: - gguf - quantized - apex - apex-mtp - moe - mixture-of-experts - qwen3 - speculative-decoding - self-speculative - mtp - vlm - vision - coder --- <!-- apex-banner-v2 --> <div style="background-color: #f59e0b; color: white; padding: 20px; border-radius: 10px; text-align: center; margin: 20px 0;"> <h2 style="color: white; margin: 0 0 10px 0;">⚡ Each donation = another big MoE quantized</h2> <p st
发布时间：2026-08-17 17:12
抓取时间：2026-08-17 17:14
来源机构：Hugging Face