部署工程

llama.cpp b11717：Hexagon 新增 Hadamard 与 Q1 0/Q2 0 支持

llama.cpp 发布 b11717 版本，为 Hexagon 后端新增对 Hadamard MUL MAT 以及 flat 和 tiled Q1 0、Q2 0 量化格式 GET ROWS 的支持，并优化了 q8 1 量化器与 vec dot q1 的数据包数量。该更新主要提升高通 Hexagon NPU 上的量化推理能力，同时照例提供覆盖 macOS、L

Ollama 发布 v0.40.7

Ollama 发布 v0.40.7 版本，包含三项改动：允许在非思考模型上使用 OpenAI Responses 的 effort 参数；让 llama-server 自动推断 draft speculative 类型；为 MLX 增加 PPLX Decider v1.2 支持。这些更新主要面向本地推理与模型服务能力，属于小版本迭代。

NVIDIA RTX Spark 笔记本上市，主打本地 AI 算力

NVIDIA 宣布 RTX Spark 笔记本正式上市，搭载 Blackwell RTX GPU 与 Grace CPU，最高 128GB 统一内存和 1 petaflop AI 算力，起售价 2399 美元，由华硕、戴尔、惠普、联想、微软和微星等厂商推出。NVIDIA 在全球六地举办零售发布庆祝活动，CEO 黄仁勋现身柏林站并送出签名笔记本。该产品将本地

Bonsai Image 4B 三值模型转换为 LiteRT 端侧文生图

PrismML 的 Bonsai Image 4B 是一个基于 FLUX.2-klein-4B 架构的三值权重扩散 Transformer，现已被转换为 LiteRT（原 TensorFlow Lite）格式，用于端侧文生图。整条流水线由三个固定形状的 .tflite 计算图组成，最小可用模型集为 3.97 GiB，在 iPhone 17 Pro 上约 64

Stellon Labs 发布 Kitten TTS 2 多语言 GGUF 包

Stellon Labs 在 Hugging Face 发布了 Kitten TTS 2 的多语言 GGUF 导出包，基于 KittenML/kitten-tts-2 权重，提供 BF16、Q8、Q4、NVFP4 和 TQ2 1 五种精度版本，支持语音合成与声音克隆，覆盖英语、中文、阿拉伯语等十种语言。该包面向 audio.cpp 推理，无需 Python

Veloxy AI 发布 Veloxy-Flash-15B Faz 11 GGUF 量化模型

Veloxy AI 在 Hugging Face 发布 Veloxy-Flash-15B Faz 11 的 GGUF 量化版本（i1-Q6 K，6.84 GB），基于 Qwen 架构，主打类 OpenAI o1/o3 的动态思维链与跨语言内部推理（内部用英语/逻辑符号，对外输出土耳其语），并支持 512K YaRN 上下文。模型以 Apache 2.0 许可

PydanticAI 发布 v2.58.0

PydanticAI 发布 v2.58.0，包含多项兼容性变更、新功能与缺陷修复。兼容性方面调整了挂起响应的用量统计、RealtimeConnection 生命周期事件公开、read file 支持图片与 PDF 等。新功能包括委派任务 steer、消息单次存储、模型请求重试与超时控制、Vercel AI 与 AG-UI 前端消息流等。修复涉及系统提示保留、

llama.cpp 新增从 HF Hub 发现与下载模型功能

llama.cpp 发布 b11714 版本，为其 UI 新增从 Hugging Face Hub 发现和下载模型的功能，并加入下载暂停、恢复、断点续传及草稿模型（sidecar）自动匹配下载等能力。该更新还引入 Enable Discover Models 开关，用于控制是否允许浏览和下载 HuggingFace GGUF 模型。这些改动提升了 llama

llama.cpp b11712：随机模型生成器引入按张量填充表

llama.cpp 发布 b11712 版本，主要改动是给随机模型生成器引入按张量名匹配的填充表（per-tensor filler table），修复了 Muse Spark 模型在滑动窗口注意力（SWA）下 state load 测试约 6% 随机种子超出 NMSE 阈值的问题。改动后最差误差从 1.36e-05 降至 2.48e-06，中位数从 4.1

llama.cpp 发布 b11711：修复 CUDA fattn 编译警告

llama.cpp 发布 b11711 版本，主要修复 CUDA 后端 fattn 向量分发中的 -Wtautological-compare 编译警告，由 Hugging Face 的 Adrien Gallouët 提交。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SY

llama.cpp b11710：CUDA 分组专家 top-k 融合优化

llama.cpp 发布 b11710 版本，主要变更为在 CUDA 后端为分组专家（grouped experts）的 top-k 计算增加融合（fusion）优化，并补充了测试、修复了 HIP 相关问题，同时将该优化接入 graph optimize。该版本同步提供 macOS、Linux、Windows、Android 等多平台、多后端（CUDA、Vu

DeepSeek发布V4.1-Flash-1017新模型并开放自研搜索API

DeepSeek发布新模型DeepSeek-V4.1-Flash-1017，并同步更新网页端、APP与API。官方称该模型针对DeepSeek Harness专项优化，在代码与Agent任务基准上性能提升的同时，缩短任务运行时间、减少输出长度与token费用，称为“性能—费用的帕累托改进”。同时DeepSeek开放自研搜索Search和Fetch两个API，

另有 3 家信源报道

DeepSeek-V4.1-Flash-1017 更新

DeepSeek 将 DeepSeek V4.1 Flash 升级至 DeepSeek-V4.1-Flash-1017，网页端与 APP 同步更新，API 调用方式与价格保持不变，仍通过 deepseek-flash 访问。新模型在 HLE、Terminal-Bench 4.0、DeepSWE v1.1 等多项基准上较上一版本显著提升，同时缩短任务运行时间与

另有 3 家信源报道

llama.cpp b11707：Granite switch 支持 256 选项标记

llama.cpp 发布 b11707 版本，主要合并了 PR #30693，为 Granite switch decision 模型支持最多 256 个单 token 语义选项标记。转换阶段会遍历具体模型的词表，发现 1 个及以上纯字母的单 token 序列（如 A、AA、BB），以突破原先大小写字母加数字仅 66 个标记的限制，并让 C++ 侧计算出的标

Latent Space 新节目与 AI 资讯：Meta 开源 Muse Spark Open 等

Latent Space 推出新节目 High Taste Testers 并汇总 2026 年 10 月 15-16 日 AI 资讯。Meta 发布 816B 总参数、42B 激活的开放权重 MoE 模型 Muse Spark Open，在 Artificial Analysis 智能指数上得 39 分，为美国开放权重模型最高分。Reflection 发布

Fish Audio 发布 Drama 3 多说话人 TTS 模型

Fish Audio 发布新一代文本转语音模型 Fish Audio Drama 3，采用 35B 参数、每 token 激活 3B 的 MoE 文本主干与混合注意力，并配备 Codebook-MTP 音频解码器，支持最多 16 个说话人标签、声音克隆与自然语言控制。该模型发布首日即支持 SGLang-Omni 与 vLLM-Omni 部署，在单张 H200

VISTA-SMC：离散扩散中加速序列蒙特卡洛引导的值信息调度裁剪

该论文提出 VISTA-SMC，一种无需训练、即插即用的方法，用于在离散扩散模型的序列蒙特卡洛（SMC）引导中自动选择预算受限的引导时间步。现有稀疏引导方案多为启发式固定调度，难以适应不同任务与奖励景观。VISTA 将稀疏 SMC 引导建模为对完整引导概率路径的近似问题，通过可估计的上界代理目标并利用动态规划精确求解调度。在 Binary MNIST、有毒文

实时时钟下的智能体评估与教学：RealtimeBench 与 TORSI

研究者提出 RealtimeBench 基准，包含六类游戏共 180 个任务，在模型推理期间游戏持续运行，以评估 LLM 智能体的实时决策能力。配对实验显示，GPT-6.1-sol 在游戏暂停时优于更快的 Jev，但游戏持续运行时反而落后（平均分 1.51 对 13.51）。为此提出 TORSI 方法：慢速教师模型在暂停环境中研究失败并生成可复用指令，快速学

DavidAU 发布基于 Qwen3.8-27B 的 Turbo Brilliance GGUF 微调模型

开发者 DavidAU 在 Hugging Face 发布了基于 Qwen/Qwen3.8-27B 的 GGUF 量化微调模型 Qwen3.8-27B-Turbo-Brilliance-50X-Reasoning-Instruct-NEO-MAX-MTP-GGUF。该模型主打所谓 Turbo Brilliance 系统，提供 27 种推理模式、27 种指令模

llama.cpp b11706：修复 SYCL 权重重排后提示词处理回归

llama.cpp 发布 b11706 版本，主要修复了 Q4 0/Q8 0 权重重排后 SYCL 后端提示词处理出现的回归问题（#30374）。该版本同时提供 macOS、Linux、Windows、Android 等多平台、多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO 等）的预编译二进制包。此次更新属于开源推理框架的常规缺陷修复与