返回全部动态
llama.cpp b10814 发布：扩展 OpenCL 算子覆盖与拷贝优化
原标题：b10814
AI 摘要
llama.cpp 发布 b10814 版本，主要扩展了 OpenCL 后端的算子覆盖范围：新增九个元素级一元操作（如 sgn、elu、hardswish 等），支持 f32/f16 及向量化变体；优化了连续张量的拷贝调度，将大行拷贝分散到整个设备；并将 CONCAT 操作扩展到所有非量化类型。这些改进在 Adreno 840/850 等设备上通过了测试，提升了非 CUDA 平台的推理性能。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> opencl: extend the elementwise and data‐movement op coverage (#27633) * opencl: add extended elementwise unary ops (sgn, step, elu, hardswish, hardsigmoid, floor, ceil, round, trunc) Adds nine GGML_UNARY_OP_* elementwise ops that were falling back to CPU on the OpenCL backend, following the same variant shape as the existing ABS op: f32, f32_4 (vec4), f16, f16_4 (vec4), and stride-addressed f32_nc / f16_nc for non-contiguous inputs. New kernels/unary_ext.cl (macro-generated), a
发布时间：2026-09-05 03:30
抓取时间：2026-09-05 04:16
来源机构：ggml-org