返回全部动态

llama.cpp b11881:内存缓存全面遵循 no_alloc

原标题:b11881

llama.cpp Releases一手来源开源质量 57

AI 摘要

llama.cpp 发布 b11881 版本,主要修正在所有内存缓存中遵循 no_alloc 参数的行为,并留下将 no_alloc 移出 llama_hparams 的待办事项。该改动由 AI 辅助完成,测试环境为 Mac Studio(M2 Ultra,192GB)上的 DeepSeek-V4-Flash-Vision-Exp-GGUF 模型。发布同时提供 macOS、iOS、Linux、Android、Windows 等多平台及 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端构建产物。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> llama : respect no_alloc in all memory caches (#31087) * llama : respect no_alloc in memory caches Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB) * llama : TODO: move no_alloc out of llama_hparams Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB) * llama : TODO: move no_alloc out of llama_hparams Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac St


发布时间:2026-10-26 00:48
抓取时间:2026-10-26 00:59
来源机构:ggml-org
阅读原文github.com