Qwen3-4B LiteRT-LM 端侧模型更新动态 INT4 导出
原标题：litert-community/Qwen3-4B
AI 摘要
Hugging Face 上的 litert-community 仓库发布了 Qwen3-4B 的 LiteRT-LM 端侧变体，其中 qwen3_4b_mixed_int4.litertlm 于 2026-10-31 更新为采用动态 INT4（block-32）权重与 GPU 复合算子的 LiteRT Torch 导出文件。新文件在 Galaxy S26 的 GPU 路径上需要 LiteRT-LM 0.19.0 或更新版本，实测预填充 1024 token 达 526 tok/s、解码 19.5 tok/s，均优于被替换的旧文件。
正文节选
--- language: - en license: apache-2.0 license_link: https://huggingface.co/Qwen/Qwen3-4B/blob/main/LICENSE pipeline_tag: text-generation base_model: Qwen/Qwen3-4B base_model_relation: quantized library_name: litert-lm tags: - litert-lm - litertlm - qwen - Qwen3 --- # Qwen3-4B LiteRT-LM Models This repository contains LiteRT-LM variants of [Qwen/Qwen3-4B](https://huggingface.co/Qwen/Qwen3-4B) optimized for on-device text generation. Since 2026-10-31 its `qwen3_4b_mixed_int4.litertlm` is a new L