gemma-4-A4B-98e-v6-coder-it-GGUF：修复智能体循环的量化模型发布
原标题：ManniX-ITA/gemma-4-A4B-98e-v6-coder-it-GGUF
AI 摘要
ManniX-ITA 发布了 gemma-4-A4B-98e-v6-coder-it-GGUF，这是 Gemma 4 26B-A4B 的代码剪枝版本的 GGUF 量化系列。该版本修复了聊天模板中导致多轮智能体循环的 bug，将循环率从 33% 降至 0%，同时保持 HumanEval+ 92.07% 的性能。所有量化均使用 imatrix 校准，推荐使用 IQ4_XS 或 Q3_K_M 作为最佳性价比选择。
正文节选
--- base_model: ManniX-ITA/gemma-4-A4B-98e-v6-coder-it tags: - gguf - imatrix - quantized - gemma4 - moe - code license: gemma --- # gemma-4-A4B-98e-v6-coder-it-GGUF ## ✅ Chat template — agentic loop fix (2026-06-10) The chat template inherited from Gemma 4 upstream re-injected each prior tool-call turn's `reasoning_content` as a `<|channel>thought` block (for assistant tool-call steps after the last user message). In deep **multi-turn agentic / tool-calling** use (OpenCode, llam