parakeet.cpp 的 GGUF 格式 Parakeet 语音识别模型合集
原标题：mudler/parakeet-cpp-gguf
AI 摘要
开发者 mudler 在 Hugging Face 发布 parakeet-cpp-gguf 仓库，将 NVIDIA NeMo Parakeet 系列语音识别模型（含 tdt_ctc-110m、ctc/rnnt/tdt 0.6b 与 1.1b、实时流式 EOU 模型等）转换为 GGUF 格式，供 C++/ggml 实现的 parakeet.cpp 在 CPU 上推理。仓库为每个模型提供 F16、Q8_0、Q6_K、Q5_K、Q4_K 多种量化版本，并标注与上游 PyTorch 模型的 WER 对比，推荐 F16 为默认选择。此举降低了 NeMo ASR 模型在本地 CPU 部署的门槛。
正文节选
--- license: other license_name: mixed-per-model-see-license-section license_link: https://huggingface.co/mudler/parakeet-cpp-gguf#license library_name: parakeet.cpp tags: - automatic-speech-recognition - asr - parakeet - gguf - ggml - cpp-inference - nemo - speaker-diarization pipeline_tag: automatic-speech-recognition base_model: - nvidia/parakeet-tdt_ctc-110m - nvidia/parakeet_realtime_eou_120m-v1 - nvidia/nemotron-3.5-asr-streaming-0.6b - nvidia/parakeet-ctc-0.6b -