FuriosaAI 发布 EXAONE-4.0-32B-FP8 的 RNGD 运行包
原标题:furiosa-ai/EXAONE-4.0-32B-FP8
AI 摘要
FuriosaAI 在 Hugging Face 发布 furiosa-ai/EXAONE-4.0-32B-FP8 仓库,将 LG AI Research 的 EXAONE 4.0 32B 多语言模型以 FP8 量化形式打包为 Furiosa Executable Bundle,可在 FuriosaAI RNGD 加速卡上通过 Furiosa-LLM 运行。该模型支持非推理与推理混合模式、工具调用,并暴露 OpenAI 兼容 API。此举为 EXAONE 4.0 增加了非 NVIDIA 硬件部署路径。
正文节选
--- base_model: LGAI-EXAONE/EXAONE-4.0-32B-FP8 language: - en - ko - es license: other license_name: exaone license_link: https://huggingface.co/LGAI-EXAONE/EXAONE-4.0-32B-FP8/blob/main/LICENSE pipeline_tag: text-generation library_name: furiosa-llm tags: - furiosa-ai - lg-ai - exaone - exaone-4.0 - fp8 --- # EXAONE-4.0-32B-FP8 This repository contains [`LGAI-EXAONE/EXAONE-4.0-32B-FP8`](https://huggingface.co/LGAI-EXAONE/EXAONE-4.0-32B-FP8) together with a Furiosa Executable Bun