返回全部动态
llama.cpp b12172:WebGPU 新增批量张量 API
原标题:b12172
AI 摘要
llama.cpp 发布 b12172 版本,主要变更为 WebGPU 后端新增批量张量 API(get_tensor_n 和 set_tensor_n),用于一次读写多个张量。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新提升了 WebGPU 场景下张量操作的批量处理能力。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> webgpu: add batched tensor API (`get_tensor_n` and `set_tensor_n`) (#31473) * add set_tensor_n and get_tensor_n * fix for editor-config checker * remove the outdated comment </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/64533296> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12172/llama-b12172-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64
发布时间:2026-11-06 22:50
抓取时间:2026-11-06 23:06
来源机构:ggml-org