NVIDIA parakeet-tdt_ctc-1.1b 的 GGUF 量化版发布
原标题：handy-computer/parakeet-tdt_ctc-1.1b-gguf
AI 摘要
Hugging Face 用户 handy-computer 发布了 NVIDIA parakeet-tdt_ctc-1.1b 语音识别模型的 GGUF 量化版本，供 transcribe.cpp 推理框架使用。该模型为 1.1B 参数的 FastConformer-XL 编码器加 TDT/RNNT 解码器，支持带标点和大小写的离线英文转写，非流式、不支持翻译。量化后 Q4_K_M 仅 825MB，LibriSpeech test-clean 上 WER 为 1.91%，与 F32 基线 1.87% 接近，便于在消费级硬件上本地部署。
正文节选
--- license: cc-by-4.0 base_model: nvidia/parakeet-tdt_ctc-1.1b base_model_relation: quantized library_name: transcribe.cpp pipeline_tag: automatic-speech-recognition language: - en tags: - gguf - transcribe.cpp - asr - speech-to-text - parakeet - conformer - rnnt - tdt transcribe_cpp: schema_version: 2 wer_fleurs_en: q8_0: 4.68 wer_librispeech_test_clean: f32: 1.87 f16: 1.87 q8_0: 1.87 q6_k: 1.87 q5_k_m: 1.87 q4_k_m: 1.91 rtf_m4_max: cpu