返回全部动态
fraQtl 发布 Gemma-4-E2B 校准量化模型，提升端侧离线性能
原标题：fraQtl/Gemma-4-E2B-it-Hi-Fi-GGUF
AI 摘要
fraQtl 发布了基于 Google Gemma-4-E2B-it 的校准感知量化 GGUF 模型，声称在相同文件大小下比社区 Q4_K_M 基线更接近原始模型，代码/数学 KLD 降低 36%，通用 KLD 降低 27.2%。该模型专为端侧设备设计，在 iPhone 上实现完全离线运行，支持语音交互、日历操作和代码生成，实测速度达 21.6 tok/s。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 license_link: https://ai.google.dev/gemma/docs/gemma_4_license base_model: google/gemma-4-E2B-it base_model_relation: quantized pipeline_tag: text-generation language: - en tags: - on-device - edge - iphone - offline - tool-calling - gguf - q4_k_m - llama.cpp - imatrix - calibration-aware-quantization - gemma-4 - gemma-4-e2b - on-device - quantized - fraqtl inference: false --- # Gemma-4-E2B Q4_K_M GGUF — fraQtl Hi-Fi (calibration-aware qu
发布时间：2026-08-19 04:43
抓取时间：2026-08-19 04:44
来源机构：Hugging Face