AtomicChat 发布 Nanbeige4.3-33B GGUF 量化版本
原标题：AtomicChat/Nanbeige4.3-33B-GGUF
AI 摘要
AtomicChat 在 Nanbeige 发布 Nanbeige4.3-33B 当天，基于其原始 BF16 权重制作并发布了 GGUF 量化版本，包含自研重要性矩阵的 Atomic Dynamic 系列（13.7GB 至 30.1GB）以及 llama.cpp 原生 Q8_0、Q5_K_M。该模型为 33B 稠密 agent 与推理模型，Llama 架构、512K 上下文、默认开启思考，采用 Apache-2.0 许可。作者指出该模型对量化异常敏感，同尺寸下 AD 文件的 KL 散度显著低于 llama.cpp 预设，低于 4bit 时精度损失明显。
正文节选
--- base_model: Nanbeige/Nanbeige4.3-33B base_model_relation: quantized quantized_by: AtomicChat pipeline_tag: text-generation library_name: gguf license: apache-2.0 language: - en - zh tags: - atomic-dynamic - gguf - llama.cpp - nanbeige - imatrix - quantized - agent - reasoning - conversational - atomic-chat --- # Nanbeige4.3-33B · GGUF <p style="margin-top: 0; margin-bottom: 0;"> <em>GGUF quants of Nanbeige's Nanbeige4.3-33B, built from Nanbeige's original BF16 weights on release day.</em>