Ornith-1.5-35B-A3B 的 ROCmFP4 量化版发布
原标题：julianmb/Ornith-1.5-35B-A3B-ROCmFP4-GGUF
AI 摘要
用户 julianmb 在 Hugging Face 发布了 Ornith-1.5-35B-A3B 模型的 ROCmFP4 量化版本，面向 AMD Strix Halo（gfx1151）与 RDNA 3.5 GPU。该量化版文件 17.74 GiB，在 Ryzen AI Max+ 395 上配合 MTP 推测解码可达约 101 tok/s，比 Q4_K_M 基线更快更小。卡片同时披露了一个运行时缺陷：复用 slot 时输出依赖上一次请求，可能导致退化重复，根因疑为 llama.cpp 的 Gated Delta Net 循环状态未完全清除。
正文节选
--- license: apache-2.0 base_model: ornith-ai/Ornith-1.5-35B-A3B-GGUF tags: - rocmfp4 - strix-halo - gguf - moe - hybrid-attention - multimodal - vision --- # Ornith-1.5-35B-A3B ROCmFP4 **ROCmFP4** quantization of [Ornith 1.5 35B-A3B](https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B-GGUF) for AMD Strix Halo (`gfx1151`) and RDNA 3.5 GPUs, produced with the `Q4_0_ROCMFP4_STRIX_LEAN` preset (97.0% of parameters in ROCmFP4, attention K/V in the dual-scale ROCmFP4 variant, `token_e