返回全部动态

llama.cpp b12087:mtmd 新增 Nemotron 3.5 Transcribe 支持

原标题:b12087

llama.cpp Releases一手来源开源质量 67

AI 摘要

llama.cpp 发布 b12087 版本,主要为其 mtmd(多模态)模块新增 Nemotron 3.5 Transcribe 语音转录模型支持。改动包括修复 Nemotron-H 目标草稿模型的词表转换、拒绝非 BF16 的 Transcribe 检查点、将说话人 FIFO 预测本地化、在 encode_windows 中归一化 mel 特征,以及校验 Nemotron Transcribe mmproj 形状。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> mtmd : add Nemotron 3.5 Transcribe support (#31471) * mtmd : add Nemotron 3.5 Transcribe support Assisted-by: Claude * convert : fix vocab of draft models for Nemotron-H targets Assisted-by: Claude * convert : reject non-BF16 Transcribe checkpoints Assisted-by: Claude * mtmd : make speaker FIFO predictions local Assisted-by: Claude * mtmd : normalize the mel in encode_windows Assisted-by: Claude * convert : map the generated speaker kernel Assisted-by: Claude * mtmd


发布时间:2026-11-04 08:31
抓取时间:2026-11-04 09:23
来源机构:ggml-org
阅读原文github.com