返回全部动态
JiRack Ultra 14B：面向 CPU 的高效三元模型发布
原标题：CMSManhattan/JiRackUltra_14b
AI 摘要
CMSManhattan 发布了 JiRack Ultra 14B，一个基于 DeepSeek R1-14B 架构、采用 BitNet 三元权重的 CPU 推理优化模型，支持多语言和扩展 tokenizer，涵盖路由、工具调用和机器人等标签。模型提供多种 GGUF 量化版本和 Docker 部署选项，并计划支持 Ollama 生产环境。该模型旨在降低云基础设施成本，可作为 RAG 部署中的专家模型。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- language: - en - zh - ja - ko - fr - es - pt - de - it - ru - ar - vi - th tags: - text-generation - ternary - bitnet - 1.58bit - cpu - gguf - qwen2.5 - deepseek - efficient - low-memory - jirack - web-ui - routing - tool-call - robotics license: mit --- # JiRack Ultra 14B (CPU) A fast and efficient 14B model optimized for CPU inference. The model was refactored with BitNet features and an updated tokenizer that includes new **Routing**, **Media**, **Vision**, **Sound**, **Tool call**, and *
发布时间：2026-09-05 23:23
抓取时间：2026-09-05 23:25
来源机构：Hugging Face