huihui-ai 发布 DeepSeek-V4.1-Flash 去审查 GGUF 模型
原标题:huihui-ai/Huihui-DeepSeek-V4.1-Flash-1017-abliterated-GGUF
AI 摘要
huihui-ai 在 Hugging Face 发布了 Huihui-DeepSeek-V4.1-Flash-1017-abliterated-GGUF,这是基于 deepseek-ai/DeepSeek-V4.1-Flash-1017 的「去审查」版本,通过 llama.cpp 的 cvector-generator 对 GGUF 模型做 abliteration,仅消融第 11 至 28 层的 18 个 attn_output_b 张量,专家系统未改动。该仓库同时提供针对 ISTA-DASLab、unsloth、Maya、Strata 等量化版本的补丁,需用户自行运行命令应用以节省存储空间,并要求 llama.cpp b11870 或更新版本。作者明确警告模型安全过滤显著降低,可能生成敏感或争议内容,仅建议用于研究或受控环境。
正文节选
--- license: mit library_name: transformers pipeline_tag: image-text-to-text base_model: deepseek-ai/DeepSeek-V4.1-Flash-1017 tags: - deepseek - deepseek_v41 - unsloth - abliterated - uncensored - huihui - gguf - gsq - rco - quantization - mixed-precision - ist-daslab - moe - Strata - Maya - imatrix - mixture-of-experts - project-maya --- # huihui-ai/Huihui-DeepSeek-V4.1-Flash-1017-abliterated-GGUF This is an uncensored version of [deepseek-ai/DeepSeek-V4.1-Flash-1017](https://huggingface.co/d