小米 MiMo-V2.6 去审查变体发布:拒答率降至 8/100
原标题:saidutta69/MiMo-V2.6-Distill-Qwen-9B-heretic
AI 摘要
开发者 saidutta69 在 Hugging Face 发布了 MiMo-V2.6-Distill-Qwen-9B-heretic,这是对小米 MiMo-V2.6-Distill-Qwen-9B 的「去审查」微调变体,使用 Heretic v1.4.0 的方向性消融(abliteration)技术,通过定向修改注意力输出与 MLP 下投影权重来抑制拒答行为,而非重新微调。该模型拒答率从 99/100 降至 8/100,KL 散度仅 0.0477,保留了原模型的智能体编码、工具调用与视觉编码能力,采用 MIT 许可、262K 上下文,并提供 GGUF 量化版本可在 16GB 显卡本地运行。
正文节选
--- license: mit license_link: https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B/blob/main/LICENSE library_name: transformers pipeline_tag: image-text-to-text language: - en - zh tags: - mimo - mimo-v2 - xiaomi - agentic - distillation - sft - code - coding - tool-use - visual-coding - cybersecurity - qwen3.5 - multimodal - vision - reasoning - thinking - heretic - uncensored - decensored - abliterated - reproducible - gguf - roleplay - local-llm - consumer-gpu base_model: XiaomiMiMo/M