返回全部动态

llama.cpp b10520 发布:修复 ARM FP16 编译问题

原标题:b10520

llama.cpp Releases一手来源产品发布质量 69

AI 摘要

llama.cpp 发布 b10520 版本,主要修复了 ggml-cpu 中 __fp16 类型在 32 位 ARM 平台上的编译问题,通过检查 __ARM_FP16_FORMAT_IEEE 宏来确保类型可用性,并调整了 NEON+FMA 代码块的编译条件。该版本提供了适用于 macOS、Linux、Windows、Android 等多种平台的预编译二进制文件,并支持 Vulkan、CUDA、ROCm、OpenVINO、SYCL 等后端。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> ggml-cpu: gate __fp16 on __ARM_FP16_FORMAT_IEEE (#26860) * ggml-cpu: gate __fp16 on __ARM_FP16_FORMAT_IEEE __ARM_NEON only signals NEON availability. The __fp16 type also needs the IEEE half format, implied on AArch64 but selected with -mfp16-format=ieee on 32 bit Arm, where the compiler otherwise rejects the type. The guard keeps every toolchain that provides the type on the same code and sends that one configuration to the generic lookup path. * ggml-cpu: gate the NEON+FMA


发布时间:2026-08-21 05:03
抓取时间:2026-08-21 05:35
来源机构:ggml-org
阅读原文github.com