DavidAU 发布 Psyonic-Cetacean 20B FP32 重制量化版
原标题:DavidAU/Psyonic-Cetacean-Ultra-Quality-20b-GGUF-imat-plus2
AI 摘要
Hugging Face 用户 DavidAU 发布了 Psyonic-Cetacean-Ultra-Quality-20b-GGUF-imat-plus2,对 Jeb Carter 原版 Psyonic-Cetacean 20B 模型进行 FP32 精度重制,并使用自建数据集与主数据集合并生成新的 Imatrix Plus 2 量化版本。作者称在 Q2K、Q4KM、Q6、Q8 等量化档位上困惑度均有明显下降,Q6 量化质量超过原版全精度模型,Q4KM 接近 Q6 水平。原模型作者 Jeb Carter 反馈指令遵循、文风与细节表现提升,原有问题消失。
正文节选
--- license: apache-2.0 language: - en tags: - creative - story - writing - fiction - float32 - roleplaying - rp - enhanced - space whale - 32 bit upscale pipeline_tag: text-generation --- <small><B style="font-family: 'Arial Black', sans-serif; font-weight: 900; color: #f1c40f; text-decoration: none; text-shadow: 1px 1px 0 #d35400, 2px 2px 0 #d35400, 3px 3px 0 #d35400, 4px 4px 0 #d35400, 5px 5px 0 #d35400, 6px 6px 7px rgba(0,0,0,0.4);">[DavidAU]</B> <a href="https://huggingface.co/DavidAU" tar