llama.cpp b12087:mtmd 新增 Nemotron 3.5 Transcribe 支持
原标题:b12087
AI 摘要
llama.cpp 发布 b12087 版本,主要为其 mtmd(多模态)模块新增 Nemotron 3.5 Transcribe 语音转录模型支持。改动包括修复 Nemotron-H 目标草稿模型的词表转换、拒绝非 BF16 的 Transcribe 检查点、将说话人 FIFO 预测本地化、在 encode_windows 中归一化 mel 特征,以及校验 Nemotron Transcribe mmproj 形状。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
正文节选
<details open> mtmd : add Nemotron 3.5 Transcribe support (#31471) * mtmd : add Nemotron 3.5 Transcribe support Assisted-by: Claude * convert : fix vocab of draft models for Nemotron-H targets Assisted-by: Claude * convert : reject non-BF16 Transcribe checkpoints Assisted-by: Claude * mtmd : make speaker FIFO predictions local Assisted-by: Claude * mtmd : normalize the mel in encode_windows Assisted-by: Claude * convert : map the generated speaker kernel Assisted-by: Claude * mtmd