K2-Horizon-7B 社区 GGUF 量化版本发布
原标题：ngquocvinh/K2-Horizon-7B-GGUF
AI 摘要
社区开发者 ngquocvinh 在 Hugging Face 上发布了 IFM/K2-Horizon-7B 的 GGUF 量化版本，共 15 个文件，覆盖 Q8_0 到 Q1_0 等多种量化等级。该模型原生支持 524,288 token 上下文，面向英文、中文、编程、推理、长上下文和智能体任务。发布者提供了与 BF16 参考模型在 WikiText 上的保真度对比数据，并建议本地部署从 Q4_K_M 起步，Q2 及以下量化等级仅适合内存受限的实验场景。
正文节选
--- license: apache-2.0 base_model: IFM/K2-Horizon-7B base_model_relation: quantized library_name: llama.cpp pipeline_tag: text-generation tags: - gguf - llama.cpp - k2-horizon - quantized - text-generation --- # K2-Horizon-7B GGUF Community GGUF quantizations of [IFM/K2-Horizon-7B](https://huggingface.co/IFM/K2-Horizon-7B). <div align="center" style="background-color:#f59e0b;color:#ffffff;padding:16px 20px;border-radius:10px;line-height:1.7;"> ☕ If this GGUF made your day easier, a coffee wo