返回全部动态

FunASR llama.cpp 运行时 v0.2.6 发布

原标题:FunASR llama.cpp runtime v0.2.6

阿里 FunASR Releases一手来源产品发布质量 77

AI 摘要

阿里 FunASR 发布了 llama.cpp 运行时 v0.2.6,提供 SenseVoice、Paraformer 和 Fun-ASR-Nano 的预编译二进制文件,内置 FSMN-VAD。该版本支持 CPU、Vulkan 和 CUDA(包括 Blackwell)后端,并验证了资产完整性和 CUDA 依赖。用户可通过脚本下载量化模型并直接运行,无需 Python 运行时或本地编译。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

Prebuilt binaries for the FunASR llama.cpp / GGUF runtime: SenseVoice, Paraformer, and Fun-ASR-Nano with built-in FSMN-VAD. ## Choose an asset - Default CPU packages maximize compatibility. Use the x64 AVX2 package only on CPUs with AVX2/FMA/F16C/BMI2. - Vulkan packages are available for Linux x64 and Windows x64. They require a working Vulkan driver/ICD and accelerate SenseVoiceSmall with `--backend vulkan`. - `windows-x64-cuda` targets CUDA architecture 86. - `windows-x64-cuda-blackwell` tar


发布时间:2026-08-30 12:10
抓取时间:2026-08-31 00:45
来源机构:魔搭社区
阅读原文github.com