XHToken 发布 Spark-X2.5-4B 与 1.7B 通用语言模型
原标题：XHToken/Spark-X2.5-4B
AI 摘要
XHToken 发布 Spark-X2.5-4B 与 Spark-X2.5-1.7B 两款紧凑型通用语言模型，采用混合注意力架构（1 层全注意力加 3 层滑动窗口注意力），原生支持最高 1M token 上下文与 200 多种语言。模型在华为昇腾集群上基于约 20 万亿 token 预训练，并通过大规模强化学习与 MOPD 后训练提升推理、编码与智能体能力。模型兼容 vLLM、SGLang、llama.cpp、MLX 等推理框架及 Ollama、LM Studio 等部署平台，并集成 Codex、Claude Code 等智能体框架。
正文节选
--- license: apache-2.0 library_name: transformers pipeline_tag: text-generation tags: - llm - sparkx2_5 - agent base_model: - XHToken/Spark-X2.5-4B-Base --- # Spark-X2.5 <div align="center"> [](https://join.slack.com/t/tokenspark/shared_invite/zt-432qf8l2f-5~dLyXv8uETr0P0UuC07nw) [](https://discord.gg/kTDE2Hg8aw) [![YouT