返回全部动态

Ornith-1.5-35B-A3B 的 ROCmFPX 量化 GGUF 发布

原标题:ArtomYuan/Ornith-1.5-35B-A3B-ROCmFPX

Hugging Face New and Trending Models一手来源开源质量 70

AI 摘要

开发者 ArtomYuan 在 Hugging Face 发布了 Ornith-1.5-35B-A3B-ROCmFPX,这是对 ornith-ai/Ornith-1.5-35B-A3B 官方基座模型进行本地重量化后的 GGUF 版本,提供 7 个量化档位及视觉 mmproj。该版本需配合其 llama.cpp 分支 strix.cpp 使用,后者针对 AMD Strix Halo gfx1151(Ryzen AI MAX+ 395)UMA 架构与 ROCm/HIP 后端调优,上游 llama.cpp 无法加载这些 ROCmFPX 文件。基准测试显示,相比 llama.cpp-rocm,strix.cpp 在提示处理上提速约 28%–74%,生成速度提升约 2%–3%。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- license: apache-2.0 base_model: ornith-ai/Ornith-1.5-35B-A3B tags: - gguf - llama.cpp - ROCm - Strix Halo - gfx1151 - qwen35moe - quantization - rocmfpx - vision library_name: gguf --- # Ornith-1.5-35B-A3B-ROCmFPX **ROCmFPX quantized GGUF (7 tiers + vision mmproj)** of [ornith-ai/Ornith-1.5-35B-A3B](https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B) — the official base model, locally requantized. ## Engine: strix.cpp (tuned for gfx1151 / AI MAX 395) This repository us


发布时间:2026-10-21 17:04
抓取时间:2026-10-21 17:06
来源机构:Hugging Face
阅读原文huggingface.co