FLUX.2-klein-9B 的 Nunchaku 量化版本发布
原标题：tonera/FLUX.2-klein-9B-Nunchaku
AI 摘要
Hugging Face 用户 tonera 发布了 FLUX.2-klein-9B 的 SVDQuant/Nunchaku 量化版本，基于 black-forest-labs 的官方全精度模型进行 int4/fp4 量化。在 RTX 5090 上，量化后配合 CPU offload 可将图像编辑峰值显存从 20.18GB 降至 7.52GB，吞吐量提升约 3 倍；文生图显存从 18.53GB 降至 6.42GB，吞吐量提升约 3.15 倍。该仓库还提供了 ComfyUI 插件安装与使用说明。
正文节选
--- pipeline_tag: image-to-image library_name: diffusers tags: - FLUX - FLUX.2 - Klein - quantization - svdquant - nunchaku - fp4 - int4 base_model: black-forest-labs/FLUX.2-klein-9B base_model_relation: quantized license: other --- # Model Card (SVDQuant / Nunchaku) > **Language**: English | [中文](README_CN.md) ## Model and upstream - **Quantized weights repo**: [`tonera/FLUX.2-klein-9B-Nunchaku`](https://huggingface.co/tonera/FLUX.2-klein-9B-Nunchaku) - **Official full-preci