返回全部动态
llama.cpp b11946：server 新增 /v1/realtime 实时对话与转写
原标题：b11946
AI 摘要
llama.cpp 发布 b11946 版本，在 server 中新增 /v1/realtime 接口，支持实时对话与语音转写，并附带默认连接 9931 端口的实时客户端示例。该提交还修复了多会话共享同一上下文时采样错位、导致并发输出混淆的问题，并将相关逻辑迁移至自包含的 server-realtime 模块。此次更新使 llama.cpp 本地推理服务具备实时语音交互能力。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> server : add realtime conversation and transcription on /v1/realtime (#31269) * server : add realtime conversation and transcription on /v1/realtime Co-authored-by: Xuan Son Nguyen <son@huggingface.co> Assisted-by: Claude Opus 5.5 * examples : default the realtime client to the server port 9931 Assisted-by: Claude Opus 5.5 * server : sample realtime responses right after their own decode Slots respond in turns on one context: sampling at the start of the next step read the
发布时间：2026-10-28 09:58
抓取时间：2026-10-28 10:02
来源机构：ggml-org