moonshine-streaming-medium 的 GGUF 量化版发布
原标题：handy-computer/moonshine-streaming-medium-gguf
AI 摘要
Hugging Face 用户 handy-computer 发布了 UsefulSensors/moonshine-streaming-medium 的 GGUF 量化版本，用于 transcribe.cpp 推理框架。该模型是 245M 参数的编码器-解码器英语流式语音识别模型，提供 F32、F16、Q8_0 三种量化格式，在 LibriSpeech test-clean 上 WER 均为 2.16%，量化后与 F32 数值上无差异。此举让该流式 ASR 模型可在 CPU、Metal、Vulkan 等边缘设备上高效运行。
正文节选
--- license: mit base_model: UsefulSensors/moonshine-streaming-medium base_model_relation: quantized library_name: transcribe.cpp pipeline_tag: automatic-speech-recognition language: - en tags: - gguf - transcribe.cpp - asr - speech-to-text - moonshine - moonshine-streaming - useful-sensors - encoder-decoder transcribe_cpp: wer_librispeech_test_clean: f32: 2.16 f16: 2.16 q8_0: 2.16 rtf_m4_max: metal: 63 cpu: 35.5 rtf_ryzen_4750u: vulkan: 14 cpu