返回全部动态

Qwen3.8-27B 的 ROCmFPX 量化 GGUF 发布

原标题:ArtomYuan/Qwen3.8-27B-ROCmFPX

Hugging Face New and Trending Models一手来源开源质量 70

AI 摘要

开发者 ArtomYuan 在 Hugging Face 发布了 Qwen3.8-27B 的 ROCmFPX 量化 GGUF 版本,包含 7 个量化档位及视觉 mmproj 文件,基于官方 BF16 权重本地重新量化。该版本需配合 llama.cpp-rocm 分支使用,上游 llama.cpp 无法加载,并提供了 AMD Strix Halo 上的 llama-bench 性能数据。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- license: apache-2.0 base_model: Qwen/Qwen3.8-27B tags: - qwen3.8 - rocmfp4 - rocmfpx - llama.cpp-rocm - gguf - mtp library_name: gguf --- # Qwen3.8-27B-ROCmFPX **ROCmFPX quantized GGUF (7 tiers + vision mmproj)** of [Qwen/Qwen3.8-27B](https://huggingface.co/Qwen/Qwen3.8-27B) — official BF16 weights, locally requantized. ## ⚡ Quick Start Requires [llama.cpp-rocm](https://github.com/ArtomYuan/llama.cpp-rocm) (this fork supports ROCmFPX; **upstream llama.cpp cannot load these fi


发布时间:2026-10-06 03:31
抓取时间:2026-10-06 03:33
来源机构:Hugging Face
阅读原文huggingface.co