返回全部动态
LocalAI 发布 Gemma 4 26B-A4B APEX 量化 GGUF 模型
原标题：mudler/gemma-4-26B-A4B-it-APEX-GGUF
AI 摘要
LocalAI 团队发布了 Gemma 4 26B-A4B 的 APEX 量化 GGUF 模型，该模型基于 Google 的 Gemma 4 26B-A4B，采用 APEX 量化策略，提供多种精度配置文件，并包含视觉投影器。模型支持本地运行，通过 llama.cpp 构建，旨在优化 MoE 模型的推理效率。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: gemma base_model: google/gemma-4-26B-A4B-it tags: - gguf - quantized - apex - moe - mixture-of-experts - gemma4 - vlm - vision --- <!-- apex-banner-v2 --> <div style="background-color: #f59e0b; color: white; padding: 20px; border-radius: 10px; text-align: center; margin: 20px 0;"> <h2 style="color: white; margin: 0 0 10px 0;">⚡ Each donation = another big MoE quantized</h2> <p style="font-size: 18px; margin: 0 0 15px 0;">I host <b>25+ free APEX MoE quantizations
发布时间：2026-08-17 17:12
抓取时间：2026-08-17 17:14
来源机构：Hugging Face