JiRack DeltaNet 27B:三值架构 CPU 推理模型发布
原标题:CMSManhattan/JiRackDeltaNet_27b
AI 摘要
Hugging Face 用户 CMSManhattan 发布了 JiRack DeltaNet 27B 模型,将 Qwen3.8 风格的 DeltaNet 架构(混合注意力+SSM)迁移到三值权重架构,主打 CPU 高效推理,提供 GGUF 量化版本并原生支持 Ollama 与 Docker 部署。模型配套 JiRack 分词器,声称支持路由、视觉、音视频、工具调用与机器人场景,并附带多款 IDE 插件。页面还列出与 NVIDIA、FISERV 的合作,但未提供基准测试或可验证的性能数据。
正文节选
--- language: - en - zh - ja - ko - fr - es - pt - de - it - ru - ar - vi - th tags: - text-generation - deltanet - qwen3.8 - gguf - cpu - efficient - low-memory - ternary - bitnet - jirack - web-ui - routing - tool-call - robotics - ollama - ternary-weights - ternary-transformer - quantization license: mit --- # Qwen 3.8 27b migrated to Ternary Architedure - Benefits high quality CPU inference TQ_2 on Llama.cpp and Ollama via QAT - Robotcs, Routing, Coding, Multimedia, Advanced tool calling