部署工程

LiteLLM v1.103.8 更换镜像签名密钥并移除 eMudhra 根 CA

LiteLLM 发布 v1.103.8，共包含 4 个 PR。本次发布更换了用于签名 Docker 镜像和 Helm chart 的 cosign 密钥，旧密钥验证将失败，用户需更新 cosign.pub 及相关 CI 校验和准入策略；同时从 SDK、proxy 和 Docker 镜像的证书信任包中移除了 eMudhra 根 CA，并修复了 otel 回调在

llama.cpp 发布 b11852：mtmd 时间合并逻辑移至基类

llama.cpp 发布构建版本 b11852，主要变更是将 mtmd 模块中的 build inp temporal merge 函数移至基类（PR #31065）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdragon

llama.cpp b11851：LFM2 图像缩放对齐 torchvision

llama.cpp 发布 b11851 版本，主要更新 mtmd 多模态模块：为 LFM2 和 d1-omni 视觉模型新增与 torchvision 一致的 bilinear 和 bicubic 图像缩放算法，通过将 Pillow 移植版的权重舍入到 int16 精度再缩放回 22 位，使输出与 torchvision 相同。此前 Pillow 移植版在约

llama.cpp b11850 新增 Soprano TTS 支持

llama.cpp 发布 b11850 版本，在 mtmd 模块中新增对 Soprano TTS 的支持，将 Soprano-80M 与 Soprano-1.1-80M 作为音频生成模型接入，其结构为 Qwen3 主干加 Vocos 解码器，以仅生成式 mmproj 形式运行。改动包括转换脚本识别 Soprano 检查点、新增 soprano 预分词器、mt

llama.cpp b11849：Hexagon 后端新增 SGN 算子支持

llama.cpp 发布 b11849 版本，主要变更为 Hexagon 后端新增 SGN（符号）算子支持，并利用符号位进行优化、补充 f16 支持，同时将 SGN 改为使用通用 unary colapse 并放宽维度折叠检查条件。该改动由高通工程师参与贡献，并随版本提供 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulk

llama.cpp b11848：支持跨进程并发下载

llama.cpp 发布 b11848 版本，主要变更是 common 模块允许跨进程并发下载（PR #29312），由 Hugging Face 的 Adrien Gallouët 提交。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后

mradermacher 发布 Qwen3.5-9B 无审查微调模型 GGUF 量化版

开发者 mradermacher 在 Hugging Face 上发布了 DavidAU 的 Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED 模型的静态 GGUF 量化版本，提供从 Q2 K 到 f16 的多种量化档位以及多模态 mmproj 补充文件，并指向另一仓库提供加权/imatrix

Ollama 发布 v0.40.11

Ollama 发布 v0.40.11 版本，包含多项修复与改进：修复 qwen3coder 参数中字面函数闭合标签的保留问题，为 OpenCode 使用已分配的上下文，允许 vllm-d3 的空状态，升级 llama.cpp 至 b11845，并为 Phonon 增加符号、数字和链接的拼读支持以及语音目录。此外新增贡献者 @SynapShift。

AgentionAI 发布 Qwen3.8-27B 高保真 GGUF 量化包

AgentionAI 在 Hugging Face 发布 Qwen3.8-27B 的 Agention Precision GGUF 量化包，声称在相同文件大小和推理速度下，比 Unsloth、ISTA-DASLab、AtomicChat 等公开量化版本更接近 Qwen 原版 BF16 模型的下一 token 分布。该量化包基于 llama.cpp 标准格式

KittenML 发布 1.7B 语音模型 KittenTTS 2，支持语音克隆与多语言

KittenML 在 Hugging Face 发布 KittenTTS 2，一个 1.7B 参数的语音语言模型，支持上下文语音克隆，输出 S3 codec token 再经声码器转为 24kHz 音频。模型内置 115 个音色、覆盖 16 种语言，并提供情感、语气事件与重音等表达控制（Beta）。权重提供 packed、emb4、full 三种打包，其中

OpenAI三周现场审计暴露AI安全监控重大缺口

METR与Redwood Research的研究人员在OpenAI进行了为期三周（7月21日至8月11日）的现场审计，检查其内部AI异常行为监控系统。审计发现多项重大缺陷：GPT-5.5及以上级别模型约6%至25%的内部agentic Responses API流量完全未被监控，Codex流量因上下文压缩事件处理漏洞约有10%未被追踪，审计人员还能隐藏数百个

NVIDIA TensorRT 11.1 全局性能调优器：多构建路线自动搜索

NVIDIA 在 TensorRT 11.1 中推出 Global Performance Tuner，将编译调度策略表示为可搜索的 build route（编译器 knob 组合），通过构建多个候选引擎并实测端到端性能与精度来选出最优方案。TensorRT 11.1 提供 200 多个可调 knob，trtexec 中给出 C++ 示例实现，Python

TensorRT 11.1 推出全局性能调优器，突破单一构建路径

NVIDIA 在技术博客中介绍 TensorRT 11.1 新增的 Global Performance Tuner 功能，用于自动性能调优。文章指出，TensorRT 编译引擎时的调度决策（图变换、融合、实现选择、内存布局、量化）相互耦合，单一启发式策略难以适配所有模型，导致启发式规则膨胀、性能与精度纠缠、定制化困难三类问题。文章用厨师调味的类比和数学框架

苏州AI芯片创企亿铸科技获超10亿元融资，布局3D DRAM存算一体

苏州AI芯片公司亿铸科技宣布完成超10亿元融资，资金将用于研发投入、产品迭代及产业化推进。该公司以3D DRAM为核心技术路线，首创全数字化通用存算一体架构，产品覆盖算力卡、工作站、一体机到推理集群，并推出兼容CUDA、PyTorch的YICA软件平台。其基于3D DRAM的存算一体AI芯片已完成流片，宣称相较主流云端GPU可实现数倍性能提升、约1/5功耗和

另有 1 家信源报道

StartLux开源首个决策模型推理引擎Prism，推理最高快5.3倍

StartLux原点星辉开源了首个面向决策模型的推理引擎Prism，通过收敛输出计算范围、森林式计算、整数运算和混排调度四项优化，在单张H200上处理同一材料连续三问时比原vLLM方案快5.3倍，231题平均延迟41毫秒。该引擎与DeepSeek开源的DeepInfer几乎同期发布，反映模型厂商自研推理引擎的趋势。Prism的int8量化版本准确率与原版差距

用 AWS CDK 编排 SageMaker AI 端点自动扩缩

AWS 机器学习博客介绍了一种使用 AWS CDK 自定义资源编排 SageMaker AI 端点自动扩缩的方法。由于 SageMaker AI 要求在更新端点前先注销可扩缩目标，而 CloudFormation 无法跟踪注销后的 Application Auto Scaling 资源，直接部署会失败或静默丢失自动扩缩配置。该方案通过三个自定义资源按依赖顺序

Ollama v0.40.10 支持 NVIDIA Nemotron 3.5 Bolt E4B

Ollama 发布 v0.40.10 版本，新增支持 NVIDIA 的 Nemotron 3.5 Bolt E4B 模型。该模型是基于 Gemma 4 的视觉语言模型，面向本地快速对话、图像理解和工具调用，支持 128K token 上下文窗口，并内置 DFlash 草稿模型用于投机解码。用户可通过 ollama run nemotron-3.5-bolt:

Spring AI 发布 2.0.2 版本

Spring AI 发布 2.0.2 版本，升级 Anthropic Java SDK 至 2.72.0、OpenAI Java SDK 至 4.80.0，并为 TextToSpeechModel、TranscriptionModel 和 StabilityAiImageModel 新增可观测性支持，同时支持配置 Redis 向量库元数据字段与无状态 MCP

Langfuse 发布 v4.69.0：AI Gateway 引导配置与 Topics 增强

Langfuse 发布 v4.69.0 版本，主要围绕 AI Gateway 增加引导式配置、按工具展示设置说明、支持 LANGFUSE AI GATEWAY PUBLIC URL 覆盖网关地址，并新增自托管部署占位提示；同时为 Topics 功能加入以目标 trace 转录编写规则、trace 头部悬浮卡展示主题等能力，MCP 侧支持创建 skill 版本

llama.cpp 发布 b11838：修复 ggml time us 时间溢出

llama.cpp 发布构建版本 b11838，核心变更是修复 ggml 中 ggml time us 的时间溢出问题（改用 double）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次为底层计时精度修复，影响长时间运行场景下