QwenPaw-Flash-9B-heretic-MTP-GGUF 去审查模型发布
原标题:SC117/QwenPaw-Flash-9B-heretic-MTP-GGUF
AI 摘要
Hugging Face 用户 SC117 发布了 QwenPaw-Flash-9B-heretic-MTP-GGUF 模型,基于 Qwen/Qwen3.5-9B 与 agentscope-ai/QwenPaw-Flash-9B,使用 Heretic v1.3.0 进行 abliteration 去审查处理,并从原始 Qwen3.5-9B 重新注入在微调中被剥离的 MTP 多 token 预测投机解码头。该模型在 BenchLocal 本地 agent 评测中取得 4035/5000(80.7%)总分,在 RTX 5070 Ti 上实现最高 4.1 倍推理加速,同时保持或提升准确率。
正文节选
--- language: - en - zh base_model: - Qwen/Qwen3.5-9B - agentscope-ai/QwenPaw-Flash-9B tags: - heretic - abliteration - uncensored - mtp - speculative-decoding - qwen3.5 - gguf - benchlocal - benchmark - agent - tool-call license: apache-2.0 --- <div style="font-family: -apple-system, BlinkMacSystemFont, 'Segoe UI', Roboto, sans-serif; margin-bottom: 30px;"> <div style="background: #f5f5f7; border-radius: 20px; padding: 36px 32px; margin-bottom: 20px; text-align: center; po