返回全部动态
llama.cpp b10690 发布:修复上下文切换崩溃并更新多平台支持
原标题:b10690
AI 摘要
llama.cpp 发布 b10690 版本,修复了在未量化 K 缓存上下文切换时因 Hadamard 矩阵未复制到 k_rot 张量而导致的崩溃问题。该版本提供了适用于 macOS、Linux、Windows、Android 等多平台的二进制文件,并支持多种后端如 Vulkan、CUDA、ROCm 等。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> memory : copy Hadamard matrix to k_rot tensor only if it has buffer assigned to prevent crashes during context shift of unquantized K cache (#27967) Co-authored-by: Stanisław Szymczyk <sszymczy@gmail.com> Co-authored-by: AesSedai <7980540+AesSedai@users.noreply.github.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/43934818> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/ll
发布时间:2026-08-30 15:45
抓取时间:2026-08-30 16:41
来源机构:ggml-org