llama.cpp b10905：CUDA/HIP Flash Attention 调优
原标题：b10905
AI 摘要
llama.cpp 发布 b10905 版本，主要更新为 CUDA/HIP 上的 Flash Attention 调优（针对 gfx1201）。该改动在 RDNA4 上为 head size 256 启用 mma Flash Attention 并调整配置，同时在 AMD WMMA 上优先使用整块 tile 的 FA 网格而非 stream-k，并修订了 stream_k 与内核选择逻辑。发布同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
正文节选
<details open> CUDA/HIP: Flash Attention tuning (gfx1201) (#28102) * HIP: enable mma FA for head size 256 on RDNA4, tune configs Assisted-by: Claude Assisted-by: Codex * HIP: prefer whole-tile FA grids over stream-k on AMD WMMA Assisted-by: Claude Assisted-by: Codex * revise stream_k logic * revise kernel selection logic --------- Co-authored-by: Johannes Gäßler <johannesg@5d6.de> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp