部署工程

llama.cpp 修复 Qualcomm Adreno 上 flash attention 性能问题

llama.cpp 发布 b12246 版本，针对 Qualcomm Adreno GPU 的 Vulkan 后端修复了标量 flash attention 在大 head 尺寸下的性能问题：当 head size 超过 128 且 KV 长度不小于 1024 时，将每个 workgroup 的行数从 16 降为 8，避免寄存器溢出到 scratch 内存。

中国电信发布Xing4.0-29B-A4B智能体MoE模型

中国电信人工智能科技有限公司发布星系列新一代大模型Xing4.0-29B-A4B，采用MoE架构，总参数29B、每token激活4B，原生支持256K上下文并可扩展至512K。该模型面向智能体任务优化，支持多步规划、工具调用与结构化输出，在SWE-bench Verified上得分75.0，并以Apache 2.0协议开放BF16、FP8、GGUF等权重。模

Meta AI 发布最小最高效模型 Muse Ember

Meta AI 发布其最小、最高效的模型 Muse Ember，面向工具调用、编码子任务、路由、信息抽取和长文档解析等智能体高频工作。短提示下定价与 GPT-6 Luna、Claude Haiku 5.5 相同（输入 $0.10/百万 token、输出 $0.50/百万 token），长提示下价格介于两者之间，并在 Artificial Analysis 的

llama.cpp 发布 b12244：更新 oneAPI/oneDNN/Level Zero 依赖

llama.cpp 发布 b12244 版本，主要更新 CI 中的 oneAPI 2026.2、oneDNN 2026.1 和 Level Zero SDK 1.34.0。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制，涵盖 CUDA、Vulkan、ROCm、SYCL、Open

四维图新发布AI原生智能座舱方案，战略拓展移动智能体

四维图新在上海举办2026 EVOLUTION创想大会，CEO程鹏宣布公司从汽车智能化向移动智能体领域拓展，提出“移动智能体的超级伙伴”新定位。公司展示了数据合规闭环、杰发科技车规SoC与MCU、千元级行泊一体与舱驾融合方案，并发布面向全球市场的AI原生智能座舱解决方案，与微软中国达成AI座舱全球化合作。此外，其RND时空数据集已服务22家具身机器人厂家，并

llama.cpp b12243：SYCL 为 Alchemist 解除 oneDNN 融合 SDPA 限制

llama.cpp 发布构建版本 b12243，主要变更是为 SYCL 后端在 head dim=64 时解除对 Intel Alchemist 显卡上 oneDNN 融合 SDPA 的限制。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，涵盖 CUDA、ROCm、Vulka

Fable 5.2 重夺全球最强 LLM 宝座，Anthropic IPO 路演启动

Anthropic 发布 Claude Fable 5.2 与 Claude Mythos 5.2，在 Artificial Analysis Intelligence Index v5 上以 65 分重回全球第一，超过 Gemini 4 Carbon 的 60 分。新模型单 token 价格下调 20% 至每百万输入 8 美元、输出 40 美元，但因大量生

另有 2 家信源报道

opencoti-llamafile：集成多项 KV 与投机解码优化的单文件推理引擎

ManniX-ITA 在 Hugging Face 发布 opencoti-llamafile，这是基于 Mozilla-Ocho llamafile 的单文件推理引擎，并集成了 opencoti 补丁系列。它新增了 PolyKV/KVarN 的 KV 驻留与量化、KV 滚动窗口、弹性多会话服务、DCA 长上下文扩展、MTP 投机解码、稀疏注意力、RYS 层

LEGIT：基于标识符 Trie 的实时资格门控用于异构页面约束解码

该论文提出 LEGIT 约束，用于 Uber Eats 搜索生成式推荐系统在单次解码中生成整页结果（店铺及菜单项）时的合法性控制。LEGIT 通过深度优先编号的 trie 将实时资格过滤与去重规则转化为范围查询，并比较了 36 种实现。在单张 NVIDIA B200 GPU 上，最快的 CPU 遍历 trie 实现比直接 GPU 实现每 token 耗时降低

SepLRM：面向推荐的基础模型范式

论文提出 SepLRM，一种推荐基础模型（RFM）范式，将多个端到端大推荐模型（LRM）重组为一个共享 RFM 和多个独立优化的垂直模型（VM）。RFM 采用编码器-解码器架构，导出与候选无关的 KV cache 作为共享接口，以保留细粒度行为信息并实现高保真能力迁移。在三个大规模数据集上取得 SOTA 离线性能，迁移率约 100%，并在字节跳动两个大规模工

基于方面成对锦标赛的测试时选择方法

该论文提出 Aspect-wise Pairwise Tournaments（APT），一种无需训练的测试时选择方法：从生成器 LLM 采样 n 个候选解，通过单败淘汰赛两两比较，每场比赛由多个现成的方面验证器按各自维度投票决定胜者。在五个领域、三个生成器 LLM 上，APT 在 15 组生成器-领域组合中的 14 组优于自一致性、奖励模型验证和二元多维度批

InstaGen：组共享重要性采样加速视频生成

该论文提出 InstaGen，一种用于加速视频生成的免训练稀疏注意力方法。作者发现现有 PBSA 方法采用 top-p 选择在高熵注意力场景下采样效率低，于是将块选择建模为重要性采样：对每个查询簇保留得分最高的精确块集合，其余键按估计注意力概率采样并用逆采样概率重加权。在 Wan2.1-T2V-1.3B 和 14B 上，InstaGen 在相同注意力密度下

字节Seedream 5.5发布：100轮图像编辑更稳，API价格减半

字节跳动推出图像生成模型Seedream 5.5，已在即梦、豆包和豆包工作上线。该模型主打多轮编辑一致性，在100轮连续图像编辑任务中比GPT-Image 2.6更保真，并提升了真实感、小字与多语言渲染、透明图生成与图层拆分能力。API延续输入图加输出图两段计费，2K方图编辑单张成本约0.28元，不到Seedream 5.0 Pro一半。

另有 1 家信源报道

llama.cpp 发布 b12242：修复 tools 与 response format 下的 lazy grammar

llama.cpp 发布构建版本 b12242，主要变更是 chat 模块在设置了 response format 且同时使用 tools 时不再使用 lazy grammar（PR #31956）。该版本同时提供 macOS/iOS、Linux（含 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端）、Android、Windows 及

llama.cpp b12241：修复 Hexagon FastRPC 句柄截断

llama.cpp 发布构建版本 b12241，主要修复了 Hexagon 后端在关闭时 64 位 FastRPC 句柄被截断的问题（PR #30952）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 及 Snapdragon Hexago

llama.cpp b12240：Responses API 支持 json schema 转换

llama.cpp 发布 b12240 版本，主要变更是其 server 的 Responses API 支持将 text.format.json schema 转换为 completions 请求格式。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台、多后端（CUDA、Vulkan、ROCm、SYCL、OpenVIN

huihui-ai 发布 Qwen3.6-35B-A3B 去审查 GGUF 版本

huihui-ai 在 Hugging Face 发布了 Huihui-Qwen3.6-35B-A3B-abliterated-MTP-GGUF，这是基于 Qwen/Qwen3.6-35B-A3B 通过 abliteration 技术移除拒答行为的无审查版本，并提供 GGUF 量化格式。该模型附带 patch-unsloth 补丁，可对 unsloth 的多

llama.cpp 发布 b12239：实时 API 改用 common chat input

llama.cpp 发布构建版本 b12239，主要变更是服务端在实时 API 中改用 common chat input。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于开源推理框架的常规迭代，对使用 llama.cpp

llama.cpp b12238 新增 OpenAI 兼容语音端点

llama.cpp 发布 b12238 版本，其 server 组件新增了与 OpenAI API 兼容的 /v1/audio/speech 端点，用于文本转语音（TTS）输出。该 PR 同时补充了端到端 pytest 测试，并统一了 WAV 写入与 pcm f32 to s16 的舍入行为，使 /tts 与 /v1/audio/speech 共用 pars

llm-anthropic 0.31 支持 Anthropic Fable 5.2 与 Mythos 5.2

Anthropic 于 2026 年 11 月 9 日发布 Fable 5.2 和 Mythos 5.2 两个模型，Simon Willison 随即将其接入 llm-anthropic 插件，用户可通过 llm 命令行调用。作者在五个推理档位（low 至 max）测试生成鹈鹕骑自行车的 SVG，发现 max 档位因耗尽 128,000 token 思考而无