llama.cpp b11603：优化 Vulkan 大窗口 pool 2d
llama.cpp 发布 b11603 版本，主要变更是优化 Vulkan 后端在池化窗口较大时的 pool 2d 算子：当窗口大于一个 subgroup 时，改用整个 subgroup 计算每个输出。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包。
部署工程
技术方向 · 把模型跑起来的工程实践：推理优化、量化与成本、Serving 架构与可观测性 · 共 3312 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
10月14日周三 · 19 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b11602：arena 重分配时重建所有子图
llama.cpp 发布 b11602 版本，主要变更是 meta 后端在 arena 重新分配时重建所有子图（PR #30453），并回退了新增的测试用例。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
正文结构化主题已通过公开置信门槛
llama.cpp b11601 发布：Hexagon 后端新增可配置电源模式
llama.cpp 发布 b11601 版本，主要新增 Hexagon 后端可配置的 HTP DCVS/HMX 电源模式支持，通过 GGML HEXAGON POWER MODE 环境变量和 run.py 的 --hex-power-mode 标志进行控制，并保持 HTP 在 DCVS 电源配置下保持唤醒。该版本同时提供覆盖 macOS、Linux、Wind
正文结构化主题已通过公开置信门槛
llama.cpp b11600 修复 no-cache attention 的 KQ bias 填充
llama.cpp 发布 b11600 版本，修复了 no-cache attention 中 KQ bias 的填充问题：此前 no-cache attention 会将 K、V 和 mask 填充到 256，但 T5 还会加入 [n tokens, n tokens] 的相对位置 bias，导致与 KQ 相加时维度不匹配；本次修复将 bias 用零填充到
正文结构化主题已通过公开置信门槛
面壁开源MiniCPM-V 4.7：35B MoE仅3G内存断网跑手机
面壁智能与OpenBMB开源MiniCPM-V 4.7，包含35B-A3B MoE和1B两个版本，其中35B-A3B仅需约3G内存即可在iPhone、iPad等端侧设备断网运行，解码速度达每秒13个token以上。模型通过前瞻专家调度、混合精度量化和视觉token压缩等技术实现端侧高效推理，并在MMBench、OmniDocBench等多项基准上取得领先成绩
正文结构化主题已通过公开置信门槛
llama.cpp b11598 发布：为 laguna 模型加载 YaRN beta 元数据
llama.cpp 发布 b11598 版本，主要变更为为 laguna 系列模型加载 YaRN beta 元数据（PR #30331），该改动由 Codex 协助、Adam Caldwell 共同提交。版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，涵盖 CPU、CUDA、V
正文结构化主题已通过公开置信门槛
llama.cpp b11597：池化嵌入跳过 LM head 优化
llama.cpp 发布 b11597 版本，主要优化了池化嵌入（pooled embeddings）场景下的计算图构建。此前即使上下文只提取池化嵌入，模型仍会展开 LM head 并计算每个 token 的 n vocab 个 logits，造成冗余计算和主机内存占用。本次改动让模型仅声明 t logits，并在池化类型非 NONE 时跳过 LM head
正文结构化主题已通过公开置信门槛
Anchor Browser 与 AgentCore payments 让智能体自主完成支付
AWS Machine Learning Blog 介绍 Anchor Browser 与 Amazon Bedrock AgentCore payments 的集成方案，让 AI 智能体在遇到 HTTP 402 Payment Required 时能自主完成支付。Anchor Browser 提供面向 AI 智能体的云端浏览器自动化环境，AgentCore
正文结构化主题已通过公开置信门槛
AtomicChat 发布 Qwen-Image-2.1-Turbo GGUF 量化版
AtomicChat 在 Hugging Face 发布了 Qwen-Image-2.1-Turbo 的 GGUF 量化版本，基于 Qwen 官方 BF16 权重并使用自建重要性矩阵，面向 stable-diffusion.cpp 本地推理。该版本采用 Atomic Dynamic 逐张量混合精度策略，官方评测显示 AD-Q4 K 比普通 Q4 K 更接近
正文结构化主题已通过公开置信门槛
llama.cpp b11596：合并上下文状态测试并修复 sanitizer 误报
llama.cpp 发布 b11596 版本，主要将原本分散在 test-save-load-state、test-recurrent-state-rollback 和 test-state-restore-fragmented 三个测试中的上下文状态测试合并为统一的 test-llama-context 二进制，以模型为行、用例为列输出判定矩阵，并支持多线
正文结构化主题已通过公开置信门槛
llama.cpp b11594：Vulkan 支持多设备访问 GPU 可见主机内存
llama.cpp 发布 b11594 版本，主要更新是 Vulkan 后端允许在 Windows 上让多个设备访问 GPU 可见的主机内存，并处理了空指针和启用条件等问题。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包，覆盖 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端。
正文结构化主题已通过公开置信门槛
Sakura 发布 Qwen-Image-2.1-Turbo 去审查 GGUF 量化版
Hugging Face 用户 webmp3 发布了 Sakura-Qwen-Image-2.1-Turbo-Uncensored-GGUF，这是对 Qwen/Qwen-Image-2.1-Turbo（8 步蒸馏、7B DiT）的社区量化版本，并搭配了 abliterated（去审查）文本编码器。该仓库提供多种 GGUF 量化权重，支持 stable-dif
正文结构化主题已通过公开置信门槛
llama.cpp b11592：CUDA graph 调试开关与环境变量缓存优化
llama.cpp 发布 b11592 版本，主要改动在 CUDA 后端：新增 GGML CUDA GRAPH DEBUG 环境变量用于控制 CUDA graph 调试日志，并将环境变量读取改为通过静态访问器只读取一次，避免每次调用重复读取。同时移除了 CUDA graph 日志的 NDEBUG 门控。该版本照例提供 macOS、Linux、Windows、
正文结构化主题已通过公开置信门槛
上半年中国AI加速器出货：英伟达67.8万颗，华为57.2万颗
IDC数据显示，2026年上半年英伟达在中国数据中心AI加速器市场份额降至34%，出货67.8万颗，同比下降44%；华为以28%份额、57.2万颗出货量紧随其后，高于去年同期的30余万颗。美国出口管制是这一变化的直接背景，黄仁勋称该政策迫使英伟达让出中国约500亿美元市场。上半年中国AI加速器总出货约200.8万颗，非GPU加速器出货101.6万颗、同比增长
正文结构化主题已通过公开置信门槛
AI竞赛延伸至能源：远景乌兰察布建全球最大AI算力超级单体
《财富》杂志发布2026年“改变世界50家企业”榜单，Alphabet、Anthropic等AI企业上榜，远景科技集团凭借“戈壁使命”及乌兰察布星河基地第三次入选。文章指出AI竞赛正从芯片与模型延伸至能源基础设施，Alphabet选择买绿电、Anthropic选择买算力，而远景则从能源端切入，将新能源、储能、供配电与AI数据中心纳入同一系统统一调度。远景在乌
正文结构化主题已通过公开置信门槛
Liquid AI 发布开源边缘决策模型 d1-3B 与 d1-omni-600M
Liquid AI 在 Hugging Face 发布两款开源决策模型 d1-3B 和 d1-omni-600M，基于其 Liquid Foundation Models 构建，不生成 token 而是单次前向传播给出答案。d1-3B 在 Decision Index 0.2.1 上以 48.57 分成为 10B 以下最佳决策模型，支持文本和图像，在 NVI
正文结构化主题已通过公开置信门槛
GPT-6.1 Sol 在 Codex 与 Work 模式出现性能下降后已修复
OpenAI 状态页面显示 GPT-6.1 Sol 在 Codex 和 ChatGPT Work 模式中出现性能下降。OpenAI 表示正在调查该问题，随后应用了缓解措施并监控恢复情况，最终宣布问题已解决。
正文结构化主题已通过公开置信门槛
Google ADK Python v2.12.0 发布：长会话性能提升 40%
Google 发布 ADK Python v2.12.0，主要提升长会话下的执行性能，将首次模型请求耗时降低 40%。新版本增加了 after tool callback 用于拦截和过滤工具输出、require confirmation 用于工作流节点执行前的人工确认，并支持使用自定义服务账号部署到 Agent Engine。此外还加入对 Python 3.
正文结构化主题已通过公开置信门槛
Satlyt获800万美元种子轮，为卫星打造AI运行软件
前Google和SpaceX产品经理Rama Afullo创立的Satlyt完成800万美元种子轮融资，由休斯顿Non Sibi Ventures领投。该公司不建造自己的航天器，而是开发让AI模型在卫星上运行的软件，并已通过两次演示任务验证，包括在Momentus航天器上部署Google DeepMind的Gemma模型，将软件错误传输数据量减少超60%。其
10月13日周二 · 1 条
正文结构化主题已通过公开置信门槛
在 Amazon Bedrock 上用 Grok 4.7 构建长时程智能体
AWS 博客介绍 SpaceXAI 的 Grok 4.7 已在 Amazon Bedrock 上线，支持可配置推理强度、工具调用和结构化输出，并提供跨区域推理配置文件。文章构建了一个工具调用智能体，在三个需要搜索而非简单查询的任务上测试了四种推理强度，共 72 次运行，正确 67 次；xhigh 全部正确，low 用约八分之一输出 token 达到 15/1