d0xin 发布 Swift-Qwen3.8-27B 无审查 NVFP4 量化版
原标题：d0xin/Swift-Qwen3.8-27B-Uncensored-NVFP4-LocalHessian-ActivationHeadroom-NInfer
AI 摘要
Hugging Face 用户 d0xin 发布了 Swift-Qwen3.8-27B-Uncensored 的 NVFP4 量化版本，基于 NVIDIA ModelOpt Local-Hessian 校准与激活余量（activation headroom）技术，采用 NVFP4/FP8 混合精度拓扑。该版本在 RTX PRO 6000 Blackwell 上相比 FP8 版本解码吞吐提升 20-27%、预填充吞吐提升 34-38%、显存占用降低 15.1%，同时在固定 MMLU-Pro 子集上保持 225/280 的准确率。模型刻意移除了拒绝行为，在固定 100 条提示评估中拒绝率为 0。
正文节选
--- license: other license_name: swift-open-license-1.0 license_link: https://huggingface.co/ukisai/Swift-Qwen3.8-27b/blob/main/LICENSE library_name: ninfer pipeline_tag: image-text-to-text inference: false base_model: d0xin/Swift-Qwen3.8-27B-Uncensored-BF16 base_model_relation: quantized tags: - qwen3.8 - swift - uncensored - nvfp4 - fp8 - mixed-precision - local-hessian - activation-headroom - ninfer - dflash2 - vision - multimodal - blackwell - sm_120a --- <!-- D0