返回全部动态
llama.cpp b10950：CUDA 后端在无 BF16 硬件加速设备上回退 F32
原标题：b10950
AI 摘要
llama.cpp 发布 b10950 版本，主要变更是 ggml-cuda 后端在不支持 BF16 硬件加速的设备上回退到 F32 计算，覆盖 NVIDIA（Ampere 之前）以及 AMD（RDNA3 之前或 CDNA 之外）的 GPU。该改动由 Johannes Gäßler 贡献，并同时适用于 NVIDIA 平台。发布包涵盖 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> ggml-cuda: fallback to F32 on device without BF16 hardware acceleration (#28846) * ggml-cuda: fallback to F32 on device without BF16 hardware acceleration: (Nvidia >= AMPERE, AMD >= RDNA3 or = CDNA) * apply logic to NVIDIA as well --------- Co-authored-by: Johannes Gäßler <johannesg@5d6.de> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/47231488> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://g
发布时间：2026-09-14 09:38
抓取时间：2026-09-14 10:05
来源机构：ggml-org