NVIDIA parakeet-tdt-0.6b-v2 的 GGUF 量化版发布
原标题：handy-computer/parakeet-tdt-0.6b-v2-gguf
AI 摘要
Hugging Face 用户 handy-computer 发布了 NVIDIA parakeet-tdt-0.6b-v2 的 GGUF 量化版本，供 transcribe.cpp 推理框架使用。该模型为 6 亿参数的英文离线语音识别模型，基于 FastConformer 编码器与 TDT/RNNT 解码器，提供 F32 至 Q4_K_M 多种量化档位，LibriSpeech test-clean 上 WER 在 1.68% 至 1.72% 之间，与 NVIDIA 官方报告的 1.69% 基本一致。此举让该 ASR 模型可在 CPU、Metal、Vulkan 等本地环境高效运行。
正文节选
--- license: cc-by-4.0 base_model: nvidia/parakeet-tdt-0.6b-v2 base_model_relation: quantized library_name: transcribe.cpp pipeline_tag: automatic-speech-recognition language: - en tags: - gguf - transcribe.cpp - asr - speech-to-text - parakeet - conformer - rnnt - tdt transcribe_cpp: schema_version: 2 wer_fleurs_en: q8_0: 4.11 wer_librispeech_test_clean: f32: 1.68 f16: 1.68 q8_0: 1.69 q6_k: 1.7 q5_k_m: 1.7 q4_k_m: 1.72 rtf_m4_max: cpu: 3