开源生态

招商局狮子山实验室发布具身推理模型驭物 Lion-ER-35B-A3B

招商局先进技术研究院下属狮子山人工智能实验室发布具身推理视觉语言模型「驭物™ Lion-ER-35B-A3B」，采用MoE架构，总参数约35B、每Token仅激活约3B。该模型以能力蓝图和Eval-Driven Data Harness数据迭代机制替代盲目堆砌数据，在十项具身相关公开基准上全部指标提升，部分超过更大参数量模型。模型已在Hugging Face

llama.cpp b12102：ggml 视图按 stride 实际字节做边界检查

llama.cpp 发布 b12102 版本，核心改动在 ggml 后端：视图（view）的边界检查改为按 stride 实际触及的字节数计算，修复了行重叠视图被误判、宽 stride 视图越界却通过检查的问题；同时要求带 stride 的视图起始元素在 dim 0 上连续。delta net 的卷积窗口改为一次性按全部行创建。该版本同步提供 macOS、L

llama.cpp b12101：GGUF 写入器直接写 host-buffer 张量数据

llama.cpp 发布 b12101 版本，核心改动在 ggml 的 GGUF 写入器：对 host-buffer 张量跳过临时向量暂存，直接将数据写入文件，省去逐张量的内存分配、零初始化和 memcpy。该版本同时提供 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL 等后端构建产物。改动可降

llama.cpp b12099：Hexagon 后端新增 LIGHTNING INDEXER 支持

llama.cpp 发布 b12099 版本，为 Hexagon 后端新增 LIGHTNING INDEXER 算子支持，覆盖 HMX 预填充路径、q8 0 与 q4 0 量化格式的解码 gather-transpose、DMA 双缓冲流水线，并加入 GGML HEXAGON LI SELECT 开关以强制选择 HMX/HVX 路径。该改动由高通工程师参与提

Vectorium 与 kANNolo：模块化高效 ANN 搜索库

研究者提出两个开源 Rust 库 Vectorium 和 kANNolo，将近似最近邻（ANN）搜索的设计空间拆分为数据管理层与索引层。Vectorium 独立抽象向量、距离函数、量化器和数据集，提供 11 种编码器；kANNolo 在其上实现泛型化的 HNSW 与 IVF 索引及两阶段索引。作者称编译期特化使模块化不带来运行时开销，在稠密数据 12 个集合

llama.cpp b12098：mtmd 准确支持 qwen3-vl 视频提示格式

llama.cpp 发布 b12098 版本，主要更新是 mtmd 模块对 qwen3-vl 视频提示格式提供了准确支持（PR #31619）。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制，涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更

LiteLLM v1.108.0 发布：镜像签名验证与多项修复

LiteLLM 发布 v1.108.0，所有 Docker 镜像均使用 cosign 签名，并提供了基于固定 commit hash 和 release tag 的两种验证方式。该版本集中修复了 A2A 协议、Bedrock、Anthropic、Azure AI、代理透传、视频与文件路由等多处问题，并新增 Azure AI Entra ID/OAuth 认证

llama.cpp b12097 新增 Chatterbox TTS 支持

llama.cpp 发布 b12097 版本，在 model 与 mtmd 模块中新增 Chatterbox TTS 语音合成支持，并加入内置音色功能，同时清理了冗余代码。该版本同步提供 macOS、iOS、Linux、Android、Windows 等多平台多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO 等）的预编译二进制包。此次更新

llama.cpp b12096：Hexagon 后端新增 TOP K MASK 算子

llama.cpp 发布 b12096 版本，主要变更为在 Hexagon 后端新增 TOP K MASK 算子，并简化了该 Hexagon 内核的实现、避免重复主机端配置。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO、Hexagon NPU 等）

Qwen 3.8 Swift 1.5 Flash Heretic 逆向工程版 GGUF 量化发布

Hugging Face 用户 jackjusko 发布了 Swift-1.5-Flash-Next-Heretic-ReverseEngineer 的 GGUF 量化版本，基于 jeffpeng3 开发的 Qwen 3.8 Swift 1.5 Flash Heretic v2 权重。该模型移除了拒绝行为（uncensored），并针对逆向工程、编码、设计等

LiteLLM 发布 v1.109.0-rc.1：镜像签名验证与多项修复

LiteLLM 发布 v1.109.0-rc.1 候选版本，所有 Docker 镜像均使用 cosign 签名，并提供了基于固定 commit 哈希和 release tag 两种验证方式。该版本包含大量修复与功能更新，涉及代理错误类型、PDF 页面计费、流式响应重建、批处理 token 统计、成本映射更新、MCP 路由权限、新增 CLF AI Gatewa

Ray 2.60.0 发布：默认 shuffle v2、Serve 滚动更新与安全修复

Ray 发布 2.60.0 版本，将 shuffle v2 设为 join 和聚合的默认策略，并让 Parquet 读取基于行组元数据精确打包读取任务。Ray Serve 新增 max surge percent 滚动更新参数，并在新副本持续失败时保留旧副本可路由。安全方面，Ray Data 在所有反序列化外部 Arrow 数据的读取器中拒绝 pickle

llama.cpp b12089 发布：新增 Metis-1.6 模型支持

llama.cpp 发布 b12089 版本，新增对 Metis-1.6 模型的支持（PR #31134，由 Claude 辅助完成）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdragon 等多种后端。此次更新扩展了 llam

llama.cpp b12087：mtmd 新增 Nemotron 3.5 Transcribe 支持

llama.cpp 发布 b12087 版本，主要为其 mtmd（多模态）模块新增 Nemotron 3.5 Transcribe 语音转录模型支持。改动包括修复 Nemotron-H 目标草稿模型的词表转换、拒绝非 BF16 的 Transcribe 检查点、将说话人 FIFO 预测本地化、在 encode windows 中归一化 mel 特征，以及校验

LangChain 发布 langchain-typesafe 0.0.1 首个正式版

LangChain 发布 langchain-typesafe 0.0.1 首个正式版本，此前已历经 0.0.1a2、0.0.1a3 等预发布迭代。该包引入 TypeSafeClassifier、实验性的 AutoModeMiddleware 与 ModelRouterMiddleware，并将分类器问题改为调用级作用域。此次发布为 LangChain 生态

llama.cpp 发布 b12084：LFM3 记录层输入以支持投机解码

llama.cpp 发布 b12084 版本，主要变更为在 LFM3 中记录 layer inputs 以支持投机解码（spec dec）。该版本同步提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdragon 等后端。此次更新属于开源推理框架

Qwen-Image-2.1-Turbo 量化版发布，支持 GGUF 与 MLX

开发者 abenzerps 在 Hugging Face 发布了 Qwen-Image-2.1-Turbo 的量化版本，基于 Qwen 的 7B 文生图模型，提供 GGUF、FP8/INT8 ConvRot/NVFP4 Safetensors 以及 MLX 4/6/8-bit 等多种格式，并附带文本编码器与 VAE 文件。该版本面向 ComfyUI、命令行运

llama.cpp b12083：修复 ggml roll 有符号溢出

llama.cpp 发布 b12083 版本，修复了 ggml roll 边界检查中的有符号整数溢出问题：原代码用 abs(shift) 校验位移量，但 abs(INT MIN) 属于未定义行为，会在边界检查前触发溢出，现改为有符号安全的比较方式。该版本同时提供 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、RO

Anthropic 研发 FlashProve 系统，用密码学证明 AI 模型身份

Anthropic 于周二发布博客，宣布正在研发开源系统 FlashProve，通过密码学证明验证某段输出确实来自特定 AI 模型，类似邮件数字签名，可防止模型冒充。系统要求 AI 实验室发布不泄露模型权重的模型「指纹」，并设计为轻量级、可在本地设备验证，从而也适用于闭源商业模型。研究者同时公开了技术规范与部分代码，但强调研究仍在进行，暂无在 Anthrop

另有 1 家信源报道

llama.cpp b12080：CUDA 批量张量读取聚合至映射主机内存

llama.cpp 发布 b12080 版本，核心变更是 CUDA 后端将批量张量读取聚合到映射的主机内存中（PR #31391），并针对小读取与大批量读取分别采用不同策略（小读取聚合、大读取使用 pinned DMA），同时引入条件分发、RAII 主机注册与 128k 描述符固定缓冲区等优化。该版本同时提供 macOS、Linux、Windows、Andr