返回全部动态

llama.cpp b11874:OpenCL 新增 topk 与 lightning indexer

原标题:b11874

llama.cpp Releases一手来源开源质量 64

AI 摘要

llama.cpp 发布 b11874 版本,主要变更为 OpenCL 后端新增 topk 算子与 fp lightning indexer,并对 topk 和 lightning indexer 做了优化与重构,包括重写 tiled topk kernel 及格式调整。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新提升了 llama.cpp 在 OpenCL 设备上的算子支持与推理效率。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> opencl: add topk and lightning indexer (#31026) * opencl: add topk * opencl: optimize topk * opencl: add fp lightning indexer * opencl: optimize lightning indexer * opencl: refactor * opencl: refactor tiled topk kernel * opencl: adjust format </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/59622642> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download


发布时间:2026-10-25 21:30
抓取时间:2026-10-25 21:51
来源机构:ggml-org
阅读原文github.com