返回全部动态
ggml-org 发布 gemma-4-E4B-it GGUF 量化版
原标题:ggml-org/gemma-4-E4B-it-GGUF
AI 摘要
ggml-org 在 Hugging Face 发布了 google/gemma-4-E4B-it 的 GGUF 量化版本,采用 Apache-2.0 许可,pipeline 标签为 any-to-any。该模型由 ggml-org/convert 工具自动转换,可通过 Llama 应用或 llama serve 命令行直接运行。这为本地部署 Gemma 4 多模态模型提供了量化分发渠道。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 pipeline_tag: any-to-any tags: - gguf - quantized base_model: - google/gemma-4-E4B-it --- # gemma-4-E4B-it Run it in the Llama app: https://llama.app Or from the terminal: ```bash llama serve -hf ggml-org/gemma-4-E4B-it-GGUF ``` ### Source models - https://huggingface.co/google/gemma-4-E4B-it - https://huggingface.co/google/gemma-4-E4B-it-assistant - https://huggingface.co/google/gemma-4-E4B-it-qat-q4_0-unquantized-assistant - https://huggingface.co/google/gemma-4-E4
发布时间:2026-10-19 18:58
抓取时间:2026-10-19 18:58
来源机构:Hugging Face