handy-computer 发布 nemotron-3.5 流式 ASR 的 GGUF 量化版
原标题：handy-computer/nemotron-3.5-asr-streaming-0.6b-gguf
AI 摘要
handy-computer 在 Hugging Face 发布了 nvidia/nemotron-3.5-asr-streaming-0.6b 的 GGUF 量化版本，供 transcribe.cpp 使用。该模型是 0.6B 参数的 cache-aware 流式 FastConformer 编码器加 RNN-T 解码器，支持 32 种语言区域的多语言语音转文字，并提供离线与分块流式两种运行路径。发布方给出了 F32 到 Q4_K_M 多种量化档位及在 FLEURS、LibriSpeech 上的 WER 评测数据，量化后精度损失很小。
正文节选
--- license: other license_name: openmdw-1.1 license_link: https://openmdw.ai/license/1-1/ base_model: nvidia/nemotron-3.5-asr-streaming-0.6b base_model_relation: quantized library_name: transcribe.cpp pipeline_tag: automatic-speech-recognition language: - en - es - fr - it - pt - nl - de - tr - ru - ar - hi - ja - ko - vi - uk - pl - sv - cs - nb - da - bg - fi - hr - sk - zh - hu - ro - et language_bcp47: - en-US - en-GB - es-US -