CMSManhattan 发布 JiRack Ultra 7B CPU 三值模型
原标题:CMSManhattan/JiRackUltra_7b
AI 摘要
CMSManhattan 在 Hugging Face 发布 JiRack Ultra 7B(CPU)模型,基于 DeepSeek R1-7B 架构并加入 BitNet 风格的三值(1.58bit)支持,提供 GGUF 量化版本,面向 CPU 推理优化。模型附带更新的 JiRack Precision Tokenizer,新增 Routing、Media、Vision、Sound、Tool call、Robotics 等标签,并配套 Docker/Ollama 部署方式、JiRack 编码 Agent IDE 及 Java/Python 工具调用示例。该发布主打低内存、低成本云端与本地部署,可用于 RAG 和工具调用场景。
正文节选
--- language: - en - zh - ja - ko - fr - es - pt - de - it - ru - ar - vi - th tags: - text-generation - ternary - bitnet - 1.58bit - cpu - gguf - qwen2.5 - deepseek - efficient - low-memory - jirack - web-ui - routing - tool-call - robotics license: mit --- # JiRack Ultra 7B (CPU) A fast and efficient 7B model optimized for CPU inference. The model was refactored with BitNet features and an updated tokenizer that includes new **Routing**, **Media**, **Vision** , **Sound** ,**Tool call**, and