返回全部动态
llama.cpp b10541 发布:新增多模态投影器设备参数
原标题:b10541
AI 摘要
llama.cpp 发布 b10541 版本,新增 --mmproj-device 参数及 MTMD_BACKEND_DEVICE 环境变量,用于指定多模态投影器的后端设备,并支持 -mmdev 短标志。该版本提供多平台预编译二进制,包括 macOS、Linux、Windows、Android 等,并支持多种后端如 Vulkan、CUDA、ROCm 等。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> mtmd: add --mmproj-device argument (#23255) * feat: add --mmproj-device arg & backwards compatible MTMD_BACKEND_DEVICE env var * feat: load mmproj device backend immediately, add -mmdev shortflag * fix: its a pointer now get the name * clean up * gen docs * nits --------- Co-authored-by: Xuan Son Nguyen <son@huggingface.co> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/42037857> **macOS/iOS:** - [
发布时间:2026-08-21 11:26
抓取时间:2026-08-21 11:47
来源机构:ggml-org