返回全部动态
Qwopus3.6-27B-Coder 发布 NVFP4 量化版，支持 vLLM 与工具调用
原标题：maci0/Qwopus3.6-27B-Coder-NVFP4
AI 摘要
Hugging Face 上发布了 Qwopus3.6-27B-Coder 的 NVFP4 量化版本，该模型基于 Jackrong/Qwopus3.6-27B-Coder，采用 W4A4 量化，大小约 18GB，相比 bf16 原始模型减少约 33%，在 wikitext-2 上困惑度为 6.63，支持 256K 上下文，专为 NVIDIA Blackwell 上的 vLLM 优化，支持工具调用和思考模式。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- base_model: Jackrong/Qwopus3.6-27B-Coder base_model_relation: quantized license: apache-2.0 library_name: transformers pipeline_tag: image-text-to-text language: - en - zh tags: - nvfp4 - fp4 - w4a4 - gptq - quantized - compressed-tensors - llm-compressor - vllm - qwen3_5 - vision-language - thinking - code - coder --- <div style="font-family:ui-sans-serif,system-ui,-apple-system,sans-serif;max-width:760px;border:1px solid #cec9ba;background:#f2efe6;color:#1413
发布时间：2026-08-04 09:51
抓取时间：2026-08-03 09:54
来源机构：Hugging Face