返回全部动态

llama.cpp b11612:为 Unigram 分词器新增可选 NFC 规范化

原标题:b11612

llama.cpp Releases一手来源开源质量 59

AI 摘要

llama.cpp 发布 b11612 版本,主要变更为 Unigram 分词器新增可选的 NFC Unicode 规范化支持(PR #30390),并附带各平台预编译二进制包。该更新提升了多语言文本在 Unigram 分词下的规范化处理能力,属于推理框架的常规迭代。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> unicode : add opt-in NFC normalization for Unigram tokenizers (#30390) * unicode : add opt-in NFC normalization for Unigram tokenizers Note: used help from Codex, Sol 6.1 Medium * Fixing initial bot comments + linter error (using existing out instead of print) * removed test_nfc_tokenizer </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/55779167> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://git


发布时间:2026-10-14 17:46
抓取时间:2026-10-14 18:16
来源机构:ggml-org
阅读原文github.com