返回全部动态

DavidAU 发布 Qwen3-30B-A3B 128k 上下文 NEO Imatrix GGUF 量化模型

原标题:DavidAU/Qwen3-128k-30B-A3B-NEO-MAX-Imatrix-gguf

Hugging Face New and Trending Models一手来源开源质量 43

AI 摘要

Hugging Face 用户 DavidAU 发布了基于 Qwen3-30B-A3B 混合专家模型的 GGUF 量化版本,通过自研 NEO Imatrix 数据集和 YARN 技术将上下文从 32k 扩展至 128k。该版本提供从 IQ1_M 到 Q8 的多种量化规格及 Max、Max Plus、Max Super、Max ULTRA 等定制变体,可在 GPU 或纯 CPU/RAM 上运行,并针对 LM Studio 用户优化了专家数量选择。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- language: - en - fr - de - es - pt - it - ja - ko - ru - zh - ar - fa - id - ms - ne - pl - ro - sr - sv - tr - uk - vi - hi - bn license: apache-2.0 tags: - all use cases - creative - creative writing - all genres - tool calls - tool use - qwen3_moe - problem solving - deep thinking - reasoning - deep reasoning - story - writing - fiction - roleplaying - bfloat16 - role play - sillytavern - backyard - Lmstudio - context 128k - moe - mixture of experts - 8 experts activated - 128 experts - N


发布时间:2026-11-09 12:54
抓取时间:2026-11-09 12:54
来源机构:Hugging Face
阅读原文huggingface.co