返回全部动态
llama.cpp b11592：CUDA graph 调试开关与环境变量缓存优化
原标题：b11592
AI 摘要
llama.cpp 发布 b11592 版本，主要改动在 CUDA 后端：新增 GGML_CUDA_GRAPH_DEBUG 环境变量用于控制 CUDA graph 调试日志，并将环境变量读取改为通过静态访问器只读取一次，避免每次调用重复读取。同时移除了 CUDA graph 日志的 NDEBUG 门控。该版本照例提供 macOS、Linux、Windows、Android 等多平台多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO 等）的预编译产物。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> cuda : add GGML_CUDA_GRAPH_DEBUG and read env vars once (#30327) * ggml-cuda: gate CUDA graph debug logs behind GGML_CUDA_GRAPH_DEBUG * ggml-cuda: cache env var lookups in static const instead of re-reading per call * ggml-cuda: read env vars exactly once via ggml_cuda_env_flag/ggml_cuda_env_int * ggml-cuda: consolidate env flag reads into single static accessors * ggml-cuda : drop env helper comments Assisted-by: pi:llama.cpp/Qwen3.8-27B * cont : remove NDEBUG gates for C
发布时间：2026-10-14 03:09
抓取时间：2026-10-14 04:02
来源机构：ggml-org