返回全部动态

llama.cpp b10232 发布:Metal 支持 DeepSeek V4 超连接

原标题:b10232

llama.cpp Releases一手来源产品发布质量 79

AI 摘要

llama.cpp 发布 b10232 版本,主要更新是在 Metal 后端实现了 DeepSeek V4 的超连接(hyper-connections)支持,包括新增 GGML_OP_DSV4_HC_COMB、GGML_OP_DSV4_HC_PRE 和 GGML_OP_DSV4_HC_POST 算子,并针对 SIMDgroup 寄存器与 shuffle 进行了优化。该版本还提供了多平台(macOS、Linux、Windows、Android 等)的预编译二进制文件。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> metal: implement DeepSeek V4 hyper-connections (#26459) - Implement GGML_OP_DSV4_HC_COMB, GGML_OP_DSV4_HC_PRE, and GGML_OP_DSV4_HC_POST with SIMDgroup register and shuffle optimized kernels. - Add Metal dispatch and support plumbing and test the production Sinkhorn iteration count and embedding width. Assisted-by: Codex Co-authored-by: Thiago Padilha <thiago@padilha.cc> </details> **Website:** - <https://llama.app> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://


发布时间:2026-08-03 02:57
抓取时间:2026-08-03 03:38
来源机构:ggml-org
阅读原文github.com