返回全部动态
Quillan-Ronin v5.4.0-oni:面向消费硬件的多模态分层MoE模型
原标题:CrashOverrideX/Quillan-Ronin
AI 摘要
CrashOverrideX 团队发布了 Quillan-Ronin v5.4.0-oni,一个面向消费级硬件的多模态分层网络混合专家模型,采用 BitNet 1.58-bit 三元量化、33 专家 MoE 和 9 向量语义棱镜等架构。该模型基于多个基础模型合并而成,支持文本、图像、音频和视频,并具备代理执行能力。模型目前处于训练暂停状态,最新检查点损失较高,但最佳检查点损失较低。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
--- language: - en license: apache-2.0 library_name: transformers pipeline_tag: text-generation tags: - text-generation - conversational - custom_code - quillan_ronin - quillan_ronin_oni - mixture-of-experts - bitnet - ternary-quantization - multimodal - image - audio - video datasets: - CrashOverrideX/QuillanTrainingdata base_model: - 1bitLLM/bitnet_b1_58-3B - Qwen/Qwen3.5-0.8B - deepseek-ai/DeepSeek-V4-Flash-0731 base_model_relation: merge --- # Quillan-Ronin v5.4.0-oni — Canonical Unified So
发布时间:2026-09-02 15:59
抓取时间:2026-08-29 10:32
来源机构:Hugging Face