IFM 开源 K2-Horizon-3.7B 稠密模型,支持 512K 上下文
原标题:IFM/K2-Horizon-3.7B
AI 摘要
IFM 在 Hugging Face 发布 K2-Horizon-3.7B,这是 K2-Horizon 家族中的小型稠密(dense)成员,采用 decoder-only 架构,原生支持 512K(524,288 token)上下文窗口。该模型以 Apache-2.0 许可完全开源,公开了训练数据、训练配方、训练代码与评测资源,并额外发布中间检查点以便研究训练过程中的能力变化。模型在 agentic、编程与推理基准上与 Qwen3.5-4B、G9v3-3B、Granite 4.2-3B、Nemotron 3 Nano-4B 等开源稠密模型进行对比。
正文节选
--- pipeline_tag: text-generation library_name: transformers model_name: K2-Horizon-3.7B language: - en license: apache-2.0 datasets: - IFM/K2-Horizon-Pretrain-Data - IFM/K2-Horizon-Midtrain-Data tags: - k2-horizon - 3.7b - dense - open-weights - ifm --- # K2-Horizon-3.7B K2-Horizon-3.7B is the small dense member of the K2-Horizon family: a 3.7B-core decoder-only model with a 512K context window. <p align="center"> <img src="assets/k2-horizon-3.7b-benchmarks.png" alt="K2-Ho