AEON-7 发布 Gemma-4-E4B NVFP4 投机解码草稿模型
原标题：AEON-7/Gemma-4-E4B-DECKARD-HERETIC-NVFP4
AI 摘要
AEON-7 在 Hugging Face 发布了 Gemma-4-E4B-DECKARD-HERETIC-NVFP4，这是一个基于 google/gemma-4-e4b-it 的 NVFP4 量化 EAGLE 风格投机解码草稿模型，用于为标准版 Gemma 4 31B DECKARD HERETIC 目标模型加速单流解码。该模型面向 Blackwell 级 GPU（DGX Spark、RTX PRO 6000、RTX 5090、B100、B200），可通过 vLLM 的 eagle3 投机配置部署，并附带量化配置与聊天模板。
正文节选
--- library_name: transformers license: gemma pipeline_tag: text-generation base_model: google/gemma-4-e4b-it tags: - 4-bit - aarch64 - abliterated - aeon - aeon-7 - agentic - arm64 - blackwell - chat - chunked-prefill - coding - conversational - deckard - dgx-spark - drafter - e4b - eagle3 - english - flashinfer-cutlass - fp4 - fp8-kv-cache - function-calling - gb10 - gemma - gemma-4 - gemma4 - google - gpu - grace-blackwell - heretic - instruct - long-context - modelopt - multimodal - native-f