AEON-7 发布 Qwen3.8-27B 未审查 NVFP4 混合量化模型
原标题:AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-NVFP4-MIXED
AI 摘要
AEON-7 在 Hugging Face 发布 Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-NVFP4-MIXED 模型,这是基于其 BF16 未审查主模型(base_model 为 AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16)的约 23.8G 混合精度部署版本,采用 ModelOpt NVFP4 + FP8 + BF16 混合量化格。作者称通过将最后 8 层 MLP 全部转为 FP8,编码基准从 0.694 提升至 0.833,并保留视觉塔与原生 MTP 头,面向 DGX Spark/GB10、RTX 5090、RTX PRO 6000 等硬件部署。
正文节选
--- license: apache-2.0 base_model: AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 language: - en - zh - multilingual library_name: transformers pipeline_tag: text-generation tags: - 27b - official-release - abliterated - abliterix - aeon - aeon-7 - agentic - bf16 - blackwell - chat - chunked-prefill - coding - conversational - dgx-spark - dflash - fp4 - fp8 - function-calling - gated-deltanet - gb10 - gdn - hybrid-attention - image-text-to-text - instruct - linear-attention - long-context - m