llama.cpp b12208：CUDA/Metal radix Top-K 并列选择确定化
llama.cpp 发布 b12208 版本，主要更新 ggml 的 CUDA/Metal radix Top-K 实现，使阈值处并列候选的选择结果确定化，输出在不同运行间字节一致。Metal 端用 simdgroup 扫描替代原子计数器压缩，在 M5 Ultra 上 top-k 耗时降低约 20-45%，并启用 Metal 与 ROCm 的确定性自检。
开源生态
技术方向 · 开源模型、框架与仓库动态：权重开放、社区项目、开源与闭源的力量对比 · 共 2100 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
11月8日周日 · 20 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
llama.cpp 为 SSM SCAN 内核新增 d state=64 快速路径
llama.cpp 发布 b12207 版本，在 ggml-cuda 的 SSM SCAN 内核中新增 d state=64 的快速路径，以支持 Zamba2 等使用状态大小 64 的循环扫描架构。此前这类模型的扫描步骤全部回退到 CPU，生成速度仅 6-7 tok/s；新增模板实例化后，Zamba2-7B-Instruct 实测吞吐提升约 35%（11 提
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12206：修复 MoE 缓存 CPU 等待问题
llama.cpp 发布 b12206 版本，核心变更是 moe-cache 修复：确保 CPU 部分不会等待已缓存的专家（#31888）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于推理框架的常规迭代，主要影响 Mo
正文结构化主题已通过公开置信门槛
Open WebUI 发布 v0.13.2 修复 HTTP 访问问题
Open WebUI 发布 v0.13.2 版本，修复了通过明文 HTTP 访问时聊天界面卡在加载状态、以及评论和 Markdown 编辑因 crypto.randomUUID 不可用而失败的问题。同时调整了侧边聊天权限开关的显示逻辑，使管理员可以独立配置临时聊天与侧边聊天权限。
正文结构化主题已通过公开置信门槛
llama.cpp b12202：按参考精度引入 BF16 累加
llama.cpp 发布 b12202 版本，核心改动是让 llama 与 mtmd 遵循 ggml prec set acc 调用的参考精度：GLM4 系列的下投影与输出投影、MiMoVL 视觉矩阵乘、Qwen3-TTS 说话人编码器 conv1d 改为 GGML PREC BF16，而 DeepSeek V4/V4.1 路由器和 MiniMax-M3 索
正文结构化主题已通过公开置信门槛
llama.cpp b12201：投机解码不再对草稿模型应用 MoE 缓存
llama.cpp 发布构建版本 b12201，主要变更是投机解码（speculative decoding）中不再将 MoE 缓存应用于草稿模型（draft model），对应 PR #31497。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包，涵盖 CUDA、Vulkan、ROCm、SYCL
正文结构化主题已通过公开置信门槛
llama.cpp b12200：优化 OpenCL q8 0 与 MoE 小 n 验证
llama.cpp 发布 b12200 版本，主要改进 OpenCL 后端：新增 q8 0 的 kernel gemv noshuffle q8 0 f32 mc 内核，为 q5 1、q4 k 等更多量化格式补充小 n 的 MoE GEMV 实现，并将 Adreno 内核的 k 下限设为 256，同时在小验证批次下禁用 bin FA。这些改动由高通（Qual
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12199：清洗工具调用参数中的非法 UTF-8
llama.cpp 发布构建版本 b12199，主要变更是 common 模块对 PEG 工具调用参数中的非法 UTF-8 进行清洗（#31861）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包，包括 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等。此次更新属于工具调用解析的
正文结构化主题已通过公开置信门槛
ggml-org 发布 Qwen3.6-35B-A3B GGUF 量化版
ggml-org 在 Hugging Face 发布了 Qwen3.6-35B-A3B 的 GGUF 量化版本，基于 Qwen/Qwen3.6-35B-A3B 及 z-lab 的 DFlash 版本自动转换而来，采用 Apache-2.0 许可，支持 image-text-to-text 任务。用户可通过 Llama 应用或命令行 llama serve 直
正文结构化主题已通过公开置信门槛
Suri-Qwen-3.8-27B 无审查 GGUF 模型发布
开发者 Space Time 在 Hugging Face 发布了 Suri-Qwen-3.8-27B-Uncensored-GGUF，这是一个基于 Qwen3.8 27B 的去对齐（无审查）GGUF 量化模型，支持中英文与图文输入。模型卡给出了推荐的采样参数（Temperature 0.7 1.0、Top P 0.8 0.95、Repetition Pen
正文结构化主题已通过公开置信门槛
ggml-org 发布 LFM3-Omni-2B GGUF 量化版
ggml-org 在 Hugging Face 发布了 LiquidAI/LFM3-Omni-2B 的 GGUF 量化版本，支持文本、图像、音频和视频输入，语音输出通过服务器的 /tts 端点实现。该版本提供 Q8 0 与 Q4 K M 两种量化，与 LiquidAI 官方 GGUF 一致，需使用支持 LFM3-Omni 的 llama.cpp 构建运行。
正文结构化主题已通过公开置信门槛
ggml-org 发布 LFM2.5-24B-A2B GGUF 量化版
ggml-org 在 Hugging Face 发布了 LiquidAI LFM2.5-24B-A2B 的 GGUF 量化版本，可通过 llama.app 的 llama serve 命令直接运行。该版本提供 Q8 0 与 Q4 K M 量化，与 LiquidAI 官方 GGUF 量化方式一致，并提及 LiquidAI 另有量化感知蒸馏（QAD）的 Q4 0
正文结构化主题已通过公开置信门槛
ggml-org 发布 gemma-4-E2B-it GGUF 量化模型
ggml-org 在 Hugging Face 发布了 google/gemma-4-E2B-it 的 GGUF 量化版本，采用 Apache-2.0 许可，pipeline 标签为 any-to-any。该模型可通过 Llama 应用或终端命令 llama serve 直接运行，并基于 Google 的原始模型及 QAT 量化版本自动转换生成。
正文结构化主题已通过公开置信门槛
LiteLLM 发布 v1.110.0-dev.2：镜像签名验证与多项修复
LiteLLM 发布 v1.110.0-dev.2 开发版本，所有 Docker 镜像均使用 cosign 签名，并提供了基于固定 commit hash 和 release tag 的两种验证方式。该版本包含大量修复与功能更新，涉及路由重试记录、按 key/team 关闭 prompt 存储、Azure AI 新增 Cohere 重排模型、Gemini 2
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12198：代理日志降级为 trace
llama.cpp 发布 b12198 版本，主要变更是将服务端按请求的代理日志级别降为 trace，以减少日志噪音。该版本同时提供 macOS/iOS、Linux（含 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端）、Android、Windows 及 UI 的多平台预编译包。此次更新属于常规构建发布，对终端用户影响有限，主要惠及使用
正文结构化主题已通过公开置信门槛
llama.cpp b12196：SYCL 后端 CPY 对 Q4 1/Q5 1/Q8 0 精确舍入
llama.cpp 发布构建版本 b12196，主要变更是 SYCL 后端在 CPY 操作中对 Q4 1、Q5 1 和 Q8 0 量化格式实现精确舍入（PR #31465）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于
正文结构化主题已通过公开置信门槛
llama.cpp b12195：SYCL 拒绝超显存缓冲区分配
llama.cpp 发布 b12195 版本，主要变更是 SYCL 后端拒绝会超出显存的设备缓冲区分配（#31285）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、OpenVINO、SYCL 及骁龙 NPU 等后端。此次更新属于常规构建发布，提升了 SYCL 场景下
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12194：Hexagon 后端清理与多平台构建
llama.cpp 发布构建版本 b12194，主要包含针对 Hexagon NPU 后端的清理与优化：根据架构设置 N HVX 和 N THREADS 以避免过度分配，将追踪状态与辅助函数迁移到新的 htp-trace.h 头文件，清理 dcache 宏定义，并支持通过 build.py 启用 HTP DEBUG。同时修复了 CI 中的 Python 类型
正文结构化主题已通过公开置信门槛
ReadyArt 发布 gemma-4-31B-it-scotoma-2 的 GGUF 量化版
Hugging Face 上出现 ReadyArt/gemma-4-31B-it-scotoma-2-GGUF 模型仓库，它是 ReadyArt/gemma-4-31B-it-scotoma-2 的 GGUF 量化版本，采用 Apache-2.0 许可，基于 Google Gemma 4 许可条款，使用 transformers 库，任务类型为文本生成。该仓
正文结构化主题已通过公开置信门槛
Datasette 修复向 Firefox 发送 rel=next 头导致的预取问题
Simon Willison 发现 Datasette 表格页面向 Firefox 发送 link: rel=next HTTP 头，导致浏览器预取下一页数据，造成不必要的流量和服务器渲染开销。他提交了 datasette #3046 修复，停止向 Firefox 的 HTML 页面发送该头。该行为源于 Firefox 一个已开放 24 年的 issue，而