返回全部动态

llama.cpp b11173 发布:修复 Metal 图捕获

原标题:b11173

llama.cpp Releases一手来源开源质量 64

AI 摘要

llama.cpp 发布 b11173 版本,主要修复 Metal 后端的图捕获(graph capture)逻辑:当图没有节点时提前返回,移除 capture_compute 的冗余重置,在捕获错误信息中提示 METAL_CAPTURE_ENABLED=1,并向 ggml_metal_op_init 传入 capture_compute == 0 以仅在捕获计算时输出 GPU 调试标记。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> metal : fix graph capture and handle empty graphs (#29390) - return early when the graph has no nodes - drop the redundant reset of capture_compute: the decrement at the top of the function already transitions the counter from 0 to -1, so a capture happens exactly once - hint at METAL_CAPTURE_ENABLED=1 in the capture error message - pass capture_compute == 0 (not the raw counter) as use_capture to ggml_metal_op_init, so GPU debug-group markers are only emitted on the cap


发布时间:2026-09-25 08:06
抓取时间:2026-09-25 08:22
来源机构:ggml-org
阅读原文github.com