NVIDIA 流式语音识别模型 nemotron-speech 发布 GGUF 量化版
原标题：handy-computer/nemotron-speech-streaming-en-0.6b-gguf
AI 摘要
Hugging Face 用户 handy-computer 发布了 NVIDIA nemotron-speech-streaming-en-0.6b 的 GGUF 量化版本，供 transcribe.cpp 推理框架使用。该模型是 0.6B 参数的缓存感知流式 FastConformer-RNNT 英文语音识别模型，支持离线与流式两种模式，并提供 F32 到 Q4_K_M 多种量化档位。在 LibriSpeech test-clean 上，各量化版本 WER 在 2.29% 至 2.38% 之间，与 F32 基线 2.31% 基本持平，便于在消费级硬件上本地部署。
正文节选
--- license: other license_name: nvidia-open-model-license license_link: https://www.nvidia.com/en-us/agreements/enterprise-software/nvidia-open-model-license/ base_model: nvidia/nemotron-speech-streaming-en-0.6b base_model_relation: quantized library_name: transcribe.cpp pipeline_tag: automatic-speech-recognition language: - en tags: - gguf - transcribe.cpp - asr - speech-to-text - parakeet - conformer - rnnt - streaming - cache-aware transcribe_cpp: wer_librispeech_test_c