DeepSeek-V4.1-Flash 混合精度量化版发布：552B MoE 可跑在单张 4090 上
原标题：IndrasMirror/DeepSeek-V4.1-Flash-1017-XQ-Uncensored
AI 摘要
Hugging Face 用户 IndrasMirror 发布了 DeepSeek-V4.1-Flash-1017 的量化版本 XQ-Uncensored，通过混合精度量化（三值、2-bit、3-bit 及原生 FP4）将 552B 参数的 MoE 模型压缩至约 163 GB，使其能在单张 RTX 4090（24 GB 显存）加 90 GB 内存的消费级 PC 上运行。该版本需配合专用推理引擎 Xolotl 使用，不兼容 llama.cpp、Ollama 或 LM Studio。作者称 V4 构建在质量与速度上均优于前代 V3，并在 Gauntlet v2 测试中略胜 DeepSeek 官方 API 全精度模型。
正文节选
--- license: mit base_model: - deepseek-ai/DeepSeek-V4.1-Flash-1017 base_model_relation: quantized tags: - deepseek - deepseek-v4.1 - moe - quantized - 2-bit - ternary - mixed-precision - gptq - uncensored - strata - consumer-gpu --- <div align="center"> # DeepSeek-V4.1-Flash-1017 · XQ mixed-tier: ternary / 2-bit / 3-bit / native FP4 experts **A 552B-parameter MoE running on one gaming PC: RTX 4090 (24 GB) + 90 GB RAM + NVMe** Runs on **[Xolotl](https://github.com/Indras-Mirror/Xolotl)** (fo