返回全部动态

llama.cpp b10668 发布:新增 M3 Max/M5/M5 Pro Metal 调优

原标题:b10668

llama.cpp Releases一手来源产品发布质量 72

AI 摘要

llama.cpp 发布 b10668 版本,主要新增了对 Apple M3 Max、M5 和 M5 Pro 芯片的 Metal 后端 fa-vec 调优记录,以提升这些 GPU 上的推理性能。该调优由社区贡献,并借助 Qwen3.8-27B 模型辅助生成。同时发布了适用于多平台(macOS、Linux、Windows、Android 等)的预编译二进制文件。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> metal : add fa-vec tunings for M3 Max, M5 and M5 Pro (#27863) * metal : add fa-vec tunings for M5 This is a followup contribution to efeda76b948f59ee52ea20db640bc4cf3dfe8ac1 as requested in https://github.com/ggml-org/llama.cpp/discussions/27668 to add support for additional Apple GPUs. I generated this output using the provided instructions: ```sh git clone https://github.com/ggml-org/llama.cpp cd llama.cpp cmake -B build -DGGML_METAL=ON cmake --build build --target ggml-met


发布时间:2026-08-28 20:17
抓取时间:2026-08-28 21:04
来源机构:ggml-org
阅读原文github.com