返回全部动态
llama.cpp b10984：CUDA 支持行连续 SUM_ROWS
原标题：b10984
AI 摘要
llama.cpp 发布 b10984 版本，主要更新为 CUDA 后端支持行连续的 SUM_ROWS 操作，并整理代码、新增 GGML_OP_MEAN 以复用同一共享内核处理行连续张量，同时为 MEAN 的 permute/slice 添加测试。该版本同步提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> cuda: support row-contiguous SUM_ROWS (#26308) * cuda: support row-contiguous SUM_ROWS * organize the code and add GGML_OP_MEAN to support row-contiguous tensors using the same shared kernel, and add a test to MEAN permute/slice * Keep original comments and add if/else branch </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/47632927> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-o
发布时间：2026-09-15 21:41
抓取时间：2026-09-15 22:18
来源机构：ggml-org