返回全部动态

llama.cpp b10541 发布:新增多模态投影器设备参数

原标题:b10541

llama.cpp Releases一手来源产品发布质量 79

AI 摘要

llama.cpp 发布 b10541 版本,新增 --mmproj-device 参数及 MTMD_BACKEND_DEVICE 环境变量,用于指定多模态投影器的后端设备,并支持 -mmdev 短标志。该版本提供多平台预编译二进制,包括 macOS、Linux、Windows、Android 等,并支持多种后端如 Vulkan、CUDA、ROCm 等。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> mtmd: add --mmproj-device argument (#23255) * feat: add --mmproj-device arg & backwards compatible MTMD_BACKEND_DEVICE env var * feat: load mmproj device backend immediately, add -mmdev shortflag * fix: its a pointer now get the name * clean up * gen docs * nits --------- Co-authored-by: Xuan Son Nguyen <son@huggingface.co> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/42037857> **macOS/iOS:** - [


发布时间:2026-08-21 11:26
抓取时间:2026-08-21 11:47
来源机构:ggml-org
阅读原文github.com