返回全部动态
LocalAI 发布 Gemma 4 26B MoE 的 APEX 量化版
原标题：mudler/gemma-4-26B-A4B-it-Claude-Opus-Distill-APEX-GGUF
AI 摘要
LocalAI 团队发布了 Gemma 4 26B-A4B 模型的 APEX 量化版本，该模型基于 TeichAI 对 Google Gemma 4 的 Claude Opus 推理蒸馏版本。APEX 是一种针对 MoE 模型的量化策略，通过按张量角色分类并应用分层精度梯度来优化性能。该模型支持视觉，并可通过 LocalAI 运行。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: gemma base_model: TeichAI/gemma-4-26B-A4B-it-Claude-Opus-Distill tags: - gguf - quantized - apex - moe - mixture-of-experts - gemma4 - claude-distilled - vlm - vision --- <!-- apex-banner-v2 --> <div style="background-color: #f59e0b; color: white; padding: 20px; border-radius: 10px; text-align: center; margin: 20px 0;"> <h2 style="color: white; margin: 0 0 10px 0;">⚡ Each donation = another big MoE quantized</h2> <p style="font-size: 18px; margin: 0 0 15px 0;"
发布时间：2026-08-17 17:13
抓取时间：2026-08-17 17:14
来源机构：Hugging Face