AtomicChat 发布无拒绝版 Nemotron 3.5 Bolt GGUF 量化模型
原标题：AtomicChat/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-Uncensored-GGUF
AI 摘要
AtomicChat 在 Hugging Face 发布了 NVIDIA Nemotron 3.5 Bolt 74B-A9B 的 GGUF 量化版本，通过消融（abliteration）技术将模型的拒绝行为从权重中移除，并基于全精度模型构建了三个量化文件。在 JailbreakBench 测试中，拒绝率从 97.5% 降至 0%，MMLU 分数基本不变（81.35% 到 81.75%）。与另外两个公开的 Bolt 消融版本相比，该版本在保持接近原模型的同时，既不会在关闭思考时拒绝回答，也不会产生重复文本。
正文节选
--- license: other license_name: openmdw-1.1 license_link: https://openmdw.ai/license/1-1/ base_model: - nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16 base_model_relation: finetune quantized_by: AtomicChat pipeline_tag: image-text-to-text library_name: gguf tags: - atomic-chat - atomic-dynamic - nvidia - nemotron - nemotron_h_moe - moe - gguf - imatrix - llama.cpp - abliteration - refusal-direction --- # How to Run NVIDIA Nemotron 3.5 Bolt 74B-A9B Without Refusals Locally <p style="margin-top: 0