返回全部动态

llama.cpp b10610 发布:优化 CUDA 与 Metal 设备命名

原标题:b10610

llama.cpp Releases一手来源产品发布质量 67

AI 摘要

llama.cpp 发布 b10610 版本,主要更新为缩短 CUDA 和 Metal 后端中虚拟设备的命名,并优化了 Metal 设备描述在初始化时的构建。该版本提供了适用于 macOS、Linux、Windows、Android 等多平台的预编译二进制文件,涵盖 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 等后端。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> ggml : shorten virtual device naming in CUDA and Metal (#27608) * ggml : shorten virtual device naming in CUDA and Metal Assisted-by: llama.cpp:DeepSeek-V4-Flash-0731 * ggml-metal : build device description at init Assisted-by: llama.cpp:DeepSeek-V4-Flash-0731 * cont : naming </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/42585632> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml


发布时间:2026-08-24 21:16
抓取时间:2026-08-24 22:16
来源机构:ggml-org
阅读原文github.com