Spark-X2.5-4B 发布 GGUF 量化版本,支持 1M 上下文
原标题:abenzerps/Spark-X2.5-4B-GGUF
AI 摘要
Hugging Face 用户 abenzerps 发布了 XHToken/Spark-X2.5-4B 的 GGUF 量化版本,提供 Q4_0 至 Q8_0 五种量化文件,采用 Apache-2.0 许可。该模型为 4B 通用语言模型,面向推理、编码、工具调用和智能体工作流,原生上下文长度达 1,048,576 tokens(1M)。使用这些 GGUF 文件需 llama.cpp b10828 或更新版本,该版本已加入对 Spark-X2.5(spark2_5)架构的官方支持。
正文节选
--- base_model: - XHToken/Spark-X2.5-4B license: apache-2.0 library_name: gguf pipeline_tag: text-generation tags: - gguf - llama.cpp - spark-x2.5 - long-context - 1m-context --- [](https://abenzerps.com/request-a-model/) > [!IMPORTANT] > **Compatibility:** These GGUF files require `llama.cpp` **b10828** or later, which includes official support for the Spark-X