返回全部动态
Qwen3.8-27B 发布 ROCmFPX 量化版本
原标题：gashapon/Qwen3.8-27B-ROCmFPX
AI 摘要
Hugging Face 上发布了 Qwen3.8-27B 模型的 ROCmFPX 量化版本，该版本基于 BF16 原始模型，使用 imatrix 校准数据生成。这些量化模型无法在主流 llama.cpp 中运行，需要使用支持 ROCmFPX 格式的分支（如 ROCmFPX 或 LaurentZuijdwijk/llama.cpp）。该发布旨在提升 AMD ROCm 平台上的推理性能。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 --- <p align="center"> <img src="./assets/logo.png" width="200" alt="Logo"> </p> > These quantized models can't be run from mainstream `llama.cpp`. In order to use them, you should use a fork that supports the ROCmFPX format (e.g., [ROCmFPX](https://github.com/charlie12345/ROCmFPX), [LaurentZuijdwijk/llama.cpp](https://github.com/LaurentZuijdwijk/llama.cpp)) This repository contains the majority of the ROCmFPX quantizations for **Qwen3.8-27B** (quantized from `BF16`)
发布时间：2026-09-04 22:30
抓取时间：2026-09-04 22:31
来源机构：Hugging Face