返回全部动态
llama.cpp b10509 发布:新增 ggml_rope_set_offset 并支持多后端
原标题:b10509
AI 摘要
llama.cpp 发布 b10509 版本,新增 ggml_rope_set_offset 操作,并支持 Metal、CUDA、Vulkan 后端。该版本提供了多平台预编译二进制文件,包括 macOS、Linux、Windows、Android 等。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> ggml: add ggml_rope_set_offset (+ metal support) (#27120) * add params * cpu kernel * metal kernel * add test backend ops * gate other backends * ggml: (cuda) support ggml_rope_set_offset (#27121) * rm cuda supports_op guard, fix webgpu clang-format * ggml: support ggml_rope_set_offset on vulkan (#27344) * ggml: support ggml_rope_set_offset on vulkan * remove inplace optimization </details> **Website:** - <https://llama.app> **macOS/iOS:** - [macOS Apple Silicon (arm
发布时间:2026-08-20 14:52
抓取时间:2026-08-20 15:42
来源机构:ggml-org