JiRack Ultra 32B:面向 CPU 的三值量化模型发布
原标题:CMSManhattan/JiRackUltra_32b
AI 摘要
CMSManhattan 在 Hugging Face 发布 JiRack Ultra 32B,一个基于 DeepSeek R1-32B 架构、面向 CPU 推理优化的 32B 模型,采用 BitNet 风格三值(1.58bit)量化并附带 GGUF 量化版本。模型更新了分词器,新增 Routing、Media、Vision、Sound、Tool call、Robotics 等标签,并提供 Docker 部署方式及 Q2/Q3/Q4 多档量化选择。发布者还宣传了配套的 JiRack 编码 Agent IDE、Ollama 支持及定制 QAT 服务。
正文节选
--- language: - en - zh - ja - ko - fr - es - pt - de - it - ru - ar - vi - th tags: - text-generation - ternary - bitnet - 1.58bit - cpu - gguf - qwen2.5 - deepseek - deepseek-r1 - efficient - low-memory - jirack - web-ui - routing - tool-call - robotics license: mit --- # JiRack Ultra 32B (CPU) A fast and efficient 32B model optimized for CPU inference. The model was refactored with BitNet features and an updated tokenizer that includes new **Routing**, **Media**, **Vision**, **Sound**, **Too