返回全部动态

llama.cpp b12173:OpenCL 支持 f16/i32/i16/bf16 repeat

原标题:b12173

llama.cpp Releases一手来源开源质量 59

AI 摘要

llama.cpp 发布 b12173 版本,主要更新为 OpenCL 后端新增对 f16、i32、i16、bf16 数据类型的 repeat 操作支持,并同步更新了算子列表。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次改动属于底层算子补全,有助于提升 OpenCL 设备上的模型推理兼容性。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> opencl: support repeat for f16, i32, i16, bf16 (#31782) * opencl: add f16 repeat Assisted-by: Codex * opencl: support repeat for i32, i16, bf16 Assisted-by: Codex * opencl: update ops Assisted-by: Codex </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/64540216> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12173/llama-b12173-bin-macos-arm64.tar


发布时间:2026-11-06 23:09
抓取时间:2026-11-07 00:12
来源机构:ggml-org
阅读原文github.com