FuriosaAI 发布 Qwen3-8B-FP8 的 RNGD 可执行包
原标题:furiosa-ai/Qwen3-8B-FP8
AI 摘要
FuriosaAI 在 Hugging Face 发布了 furiosa-ai/Qwen3-8B-FP8 模型仓库,将 Qwen3-8B-FP8 与 Furiosa Executable Bundle(FXB)打包,使其可在 FuriosaAI RNGD 硬件上通过 Furiosa-LLM 运行。该模型为 8.2B 稠密模型,支持思考/非思考模式切换、工具调用和多语言,权重采用 FP8 静态量化(block size 128),激活使用动态 FP8 量化,在 RNGD 上以 8 PE 张量并行映射到单卡。
正文节选
--- base_model: Qwen/Qwen3-8B-FP8 language: - en license: apache-2.0 license_link: https://huggingface.co/Qwen/Qwen3-8B-FP8/blob/main/LICENSE pipeline_tag: text-generation library_name: furiosa-llm tags: - furiosa-ai - qwen3 --- # Qwen3-8B-FP8 This repository contains [Qwen/Qwen3-8B-FP8](https://huggingface.co/Qwen/Qwen3-8B-FP8) together with a Furiosa Executable Bundle (FXB) for running it on [FuriosaAI RNGD](https://furiosa.ai) with [Furiosa-LLM](https://developer.furiosa.ai/latest/en/f