Huihui Qwen3.8-27B 消融版 NInfer FP8/NVFP4 量化发布
原标题：lyf/Qwen3.8-27B-Huihui-Abliterated-NInfer-NVFP4
AI 摘要
Hugging Face 用户 lyf 发布了基于 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 NInfer 量化产物，采用 FP8 与 NVFP4 混合精度，面向 Blackwell 架构（RTX 5090、sm120）。该仓库同时提供原始 v2 与 v3 兼容版本，v3 仅更新容器与聊天模板、保持全部 1118 个张量编码字节不变，并附有构建、验证与溯源报告。发布者还澄清旧版转换日志中硬编码的官方 Qwen/unsloth 标签与实际 Huihui 来源不符。
正文节选
--- license: apache-2.0 license_link: https://huggingface.co/Qwen/Qwen3.8-27B/blob/main/LICENSE base_model: huihui-ai/Huihui-Qwen3.8-27B-abliterated base_model_relation: quantized pipeline_tag: image-text-to-text library_name: ninfer language: - en - zh tags: - qwen3_5 - qwen3.8 - ninfer - nvfp4 - fp8 - mixed-precision - blackwell - rtx-5090 - sm120 - multimodal - vision - mtp - reasoning - abliterated --- # Huihui Qwen3.8-27B Abliterated — NInfer Mixed FP8/NVFP4 A complete NInfer artifact der