llama.cpp b11881:内存缓存全面遵循 no_alloc
原标题:b11881
AI 摘要
llama.cpp 发布 b11881 版本,主要修正在所有内存缓存中遵循 no_alloc 参数的行为,并留下将 no_alloc 移出 llama_hparams 的待办事项。该改动由 AI 辅助完成,测试环境为 Mac Studio(M2 Ultra,192GB)上的 DeepSeek-V4-Flash-Vision-Exp-GGUF 模型。发布同时提供 macOS、iOS、Linux、Android、Windows 等多平台及 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端构建产物。
正文节选
<details open> llama : respect no_alloc in all memory caches (#31087) * llama : respect no_alloc in memory caches Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB) * llama : TODO: move no_alloc out of llama_hparams Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB) * llama : TODO: move no_alloc out of llama_hparams Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac St