parakeet-tdt-1.1b 发布 GGUF 量化版，支持 transcribe.cpp
原标题：handy-computer/parakeet-tdt-1.1b-gguf
AI 摘要
handy-computer 在 Hugging Face 上发布了 nvidia/parakeet-tdt-1.1b 的 GGUF 量化版本，用于 transcribe.cpp 推理框架。该模型为 1.1B 参数的 FastConformer-XL 编码器加 TDT/RNNT 解码器的离线英语语音识别模型，提供 F32 到 Q4_K_M 六种量化档位，LibriSpeech test-clean 上 WER 约 1.38%-1.42%，与 NVIDIA 自报的 1.39% 基本一致。此举让该 ASR 模型可在 CPU、Metal、Vulkan 等本地环境运行，降低部署门槛。
正文节选
--- license: cc-by-4.0 base_model: nvidia/parakeet-tdt-1.1b base_model_relation: quantized library_name: transcribe.cpp pipeline_tag: automatic-speech-recognition language: - en tags: - gguf - transcribe.cpp - asr - speech-to-text - parakeet - conformer - rnnt - tdt transcribe_cpp: schema_version: 2 wer_fleurs_en: q8_0: 4.24 wer_librispeech_test_clean: f32: 1.39 f16: 1.39 q8_0: 1.38 q6_k: 1.4 q5_k_m: 1.39 q4_k_m: 1.42 rtf_m4_max: cpu: 18.