返回全部动态
llama.cpp b10723 发布:优化 Intel Xe-LP GPU 的 OpenCL 量化性能
原标题:b10723
AI 摘要
llama.cpp 发布 b10723 版本,主要针对 Intel Xe-LP GPU 优化 OpenCL 量化路径,通过调整 Q4_K/Q5_K 的矩阵乘法分块大小和 N_DST 参数,提升其 TG 和 PP 性能。该版本同时提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> opencl: tune the quant paths for Intel Xe-LP GPUs to improve its TG and PP performance (#26438) * opencl: Q4_K/Q5_K mul_mv N_DST 4->8 on Intel for 2x activation reuse * opencl: Q4_K mul_mm 8x8 tile fot Intel * opencl: Q5_K mul_mm 8x8 tile for Intel * opencl: Q4_K mul_mv N_DST 8->16 for Intel </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/44194717> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://
发布时间:2026-09-01 00:31
抓取时间:2026-09-01 01:23
来源机构:ggml-org