Jebadiah 9B v2 决策模型 GGUF 量化版发布
原标题：frontier-infra/jebadiah-9b-v2-GGUF
AI 摘要
Hugging Face 上发布了 frontier-infra/jebadiah-9b-v2-GGUF，这是 Jebadiah 9B v2 决策模型的 GGUF 量化版本，支持 llama.cpp、Ollama 和 LM Studio。该模型不是聊天模型，而是对类型化问题（choice、noul、score）通过一次前向传播输出每个选项的概率。仓库提供了 Q4_K_M、Q5_K_M、Q8_0 三种量化文件，并给出了与 bf16 权重在 260 道留出题上的答案一致性对比数据。
正文节选
--- license: apache-2.0 base_model: frontier-infra/jebadiah-9b-v2 base_model_relation: quantized library_name: gguf language: - en tags: - gguf - llama.cpp - decision-model - system-one - typed-decisions - calibrated-probabilities - ainode --- > **Just want to run it?** Download [jebadiah-9b-v2-1-GGUF](https://huggingface.co/frontier-infra/jebadiah-9b-v2-1-GGUF) and open it in llama.cpp, Ollama or LM Studio. > > **Which one should I use?** Start with the 9B. It's smaller and faster, and it's wh