返回全部动态
Qwen3.8-27B 的 ROCmFPX 量化 GGUF 发布
原标题:ArtomYuan/Qwen3.8-27B-ROCmFPX
AI 摘要
开发者 ArtomYuan 在 Hugging Face 发布了 Qwen3.8-27B 的 ROCmFPX 量化 GGUF 版本,包含 7 个量化档位及视觉 mmproj 文件,基于官方 BF16 权重本地重新量化。该版本需配合 llama.cpp-rocm 分支使用,上游 llama.cpp 无法加载,并提供了 AMD Strix Halo 上的 llama-bench 性能数据。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 base_model: Qwen/Qwen3.8-27B tags: - qwen3.8 - rocmfp4 - rocmfpx - llama.cpp-rocm - gguf - mtp library_name: gguf --- # Qwen3.8-27B-ROCmFPX **ROCmFPX quantized GGUF (7 tiers + vision mmproj)** of [Qwen/Qwen3.8-27B](https://huggingface.co/Qwen/Qwen3.8-27B) — official BF16 weights, locally requantized. ## ⚡ Quick Start Requires [llama.cpp-rocm](https://github.com/ArtomYuan/llama.cpp-rocm) (this fork supports ROCmFPX; **upstream llama.cpp cannot load these fi
发布时间:2026-10-06 03:31
抓取时间:2026-10-06 03:33
来源机构:Hugging Face