返回全部动态

JiRack Ultra 32B:面向 CPU 的三值量化模型发布

原标题:CMSManhattan/JiRackUltra_32b

Hugging Face New and Trending Models一手来源模型发布质量 5

AI 摘要

CMSManhattan 在 Hugging Face 发布 JiRack Ultra 32B,一个基于 DeepSeek R1-32B 架构、面向 CPU 推理优化的 32B 模型,采用 BitNet 风格三值(1.58bit)量化并附带 GGUF 量化版本。模型更新了分词器,新增 Routing、Media、Vision、Sound、Tool call、Robotics 等标签,并提供 Docker 部署方式及 Q2/Q3/Q4 多档量化选择。发布者还宣传了配套的 JiRack 编码 Agent IDE、Ollama 支持及定制 QAT 服务。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- language: - en - zh - ja - ko - fr - es - pt - de - it - ru - ar - vi - th tags: - text-generation - ternary - bitnet - 1.58bit - cpu - gguf - qwen2.5 - deepseek - deepseek-r1 - efficient - low-memory - jirack - web-ui - routing - tool-call - robotics license: mit --- # JiRack Ultra 32B (CPU) A fast and efficient 32B model optimized for CPU inference. The model was refactored with BitNet features and an updated tokenizer that includes new **Routing**, **Media**, **Vision**, **Sound**, **Too


发布时间:2026-10-25 20:52
抓取时间:2026-08-30 21:35
来源机构:Hugging Face
阅读原文huggingface.co