llama.cpp b12175：修复 CI 硬件并发数检测并发布多平台构建
llama.cpp 发布 b12175 版本，主要修复 CI 测试问题：自托管 CPU runner 是 8 核容器，但 std::thread::hardware concurrency 报告的是宿主机核数，导致 test-llama-context 的 table 模式按错误线程数建池，在 8-CPU 任务上跑 4 模型 x 8 线程而挂起。为此新增 T
部署工程
技术方向 · 把模型跑起来的工程实践：推理优化、量化与成本、Serving 架构与可观测性 · 共 3293 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
11月7日周六 · 1 条
正文结构化主题已通过公开置信门槛
11月6日周五 · 19 条
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12174：CMake 直接生成 RC 文件
llama.cpp 发布 b12174 版本，主要变更是 CMake 构建系统直接生成 Windows RC 资源文件，不再依赖 win-app.rc.in 模板（PR #31718，由 Adrien Gallouët 提交）。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、RO
正文结构化主题已通过公开置信门槛
Cyber-Tiel-Coder-35B-A3B-MTP 的 TTQ GGUF 量化系列发布
Hugging Face 用户 TokenTinkerer 发布了 Cyber-Tiel-Coder-35B-A3B-MTP 模型的 TTQ 量化系列，共 10 个 GGUF 量化档位（3.34 至 6.64 bpw），基于上游 UD-Q8 K XL 再量化。作者称在同等体积下，该系列在代码语料全部 7 个匹配尺寸和 wikitext 的 6 个尺寸上 KL
正文结构化主题已通过公开置信门槛
llama.cpp b12172：WebGPU 新增批量张量 API
llama.cpp 发布 b12172 版本，主要变更为 WebGPU 后端新增批量张量 API（get tensor n 和 set tensor n），用于一次读写多个张量。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新
正文结构化主题已通过公开置信门槛
llama.cpp b12171：Vulkan 检测 ReBAR 支持
llama.cpp 发布 b12171 版本，主要变更是 Vulkan 后端新增对 ReBAR（Resizable BAR）支持的检测，在不可用时避免进行 BAR 分配。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制，涵盖 CUDA、ROCm、Vulkan、SYCL、OpenV
正文结构化主题已通过公开置信门槛
Software Mansion 发布 whisper-tiny 的 ExecuTorch 多后端导出模型
Software Mansion 在 Hugging Face 发布了 whisper-tiny 的 ExecuTorch 导出版本，提供 CoreML、MLX、Vulkan、XNNPACK 四种后端及 fp16/bf16/int8/fp32 多种精度变体，供 React Native ExecuTorch 库在移动设备上本地运行语音识别。仓库给出 XNNP
正文结构化主题已通过公开置信门槛
llama.cpp b12170：MoE 混合专家缓存 LRFU/MQ 实现
llama.cpp 发布 b12170 版本，核心变更是为 MoE 模型引入 LRFU/MQ 风格的混合专家缓存（ClassLRU），通过半衰期衰减公式对专家槽位打分并排序，以决定缓存淘汰。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。这一
正文结构化主题已通过公开置信门槛
MiniCPM-V-4.7-1B 去审查多模态变体发布
开发者 saidutta69 在 Hugging Face 发布了 MiniCPM-V-4.7-1B-heretic，这是基于 openbmb/MiniCPM-V-4.7-1B 的去审查（decensored）变体，使用 Heretic v1.4.0 的方向性消融（abliteration）技术，通过定向修改注意力输出和 MLP 下投影的权重来抑制拒绝行为，
正文结构化主题已通过公开置信门槛
AtomicChat 发布 Ripple-65B Preview 的 GGUF 量化版本
AtomicChat 发布了 Ricursive Intelligence 从零训练的 65B 稠密模型 Ripple-65B Preview 的首个 GGUF 量化版本，并为其编写了 llama.cpp 支持（已合并至上游 b12167）。该仓库提供从 BF16 到 1-bit 级的多档量化文件，并给出 KLD 与 top-token 一致率等评测数据，方
正文结构化主题已通过公开置信门槛
llama.cpp b12167 发布：修复 CUDA Maxwell 构建
llama.cpp 发布 b12167 版本，主要修复了 CUDA 后端在 Maxwell 架构 GPU 上的构建问题（#31787）。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制，涵盖 CUDA 12/13、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更
正文结构化主题已通过公开置信门槛
李佳琦直播间卖出万份Token，电商平台AI生意刚开场
李佳琦直播间上架千问办公Token算力，半小时售出10万份月卡、累计约2万亿Token，标志Token被包装成电商商品销售。天猫、京东、运营商等纷纷将模型调用资源做成月卡、套餐上架，阿里还成立Token Foundry事业部推进Token战略。但文章指出，低价冲动购买、计费口径不透明、用户缺乏复购等问题意味着Token生意尚未跑通，平台需从卖额度转向卖可感知
正文结构化主题已通过公开置信门槛
VFlash：通过 Flash Primitive Decoding 实现快速准确的视觉规划
研究者提出 VFlash，一种通过 Flash Primitive Decoding 实现快速、准确视觉规划的方法。该方法利用视觉基元（点、边界框、轨迹）的已知结构，用轻量级 drafter 在一次前向传播中联合预测整个基元的坐标，而非逐 token 自回归生成。在 2D 和 3D 机器人轨迹任务上，VFlash 持续降低预测误差，3D 点运动预测的初步单次
正文结构化主题已通过公开置信门槛
DeepSeek带火稀疏计算，墨芯完成近10亿元C+轮融资
墨芯人工智能完成近10亿元人民币C+轮融资，距上一轮近10亿元融资仅5个月。该公司专注稀疏专用推理芯片，采用权重与激活双稀疏算法及软硬件协同设计，在MLPerf Inference部分类别连续三届夺冠，2026年Q3营收数倍增长，并计划年底推出SP200板卡、发布升级版SECA软件栈。文章认为稀疏计算因MoE架构普及而成为AI算力设计重要方向，墨芯为国产芯片
正文结构化主题已通过公开置信门槛
2026 奇点智能技术大会日程公布：聚焦 RSI、Agent 与 Physical AI
2026 奇点智能技术大会将于 11 月 20—21 日在北京万达文华酒店举行，官方公布了完整日程。大会设 18 大专题、70+ 演讲，覆盖 RSI、Agent、AI4AI、世界模型、Physical AI、AI Infra 与企业级应用等方向，OpenAI 的 Łukasz Kaiser、京东段楠、昆仑万维成宇等将作主会场分享。C++ 及系统软件技术大会同
正文结构化主题已通过公开置信门槛
CacheGraft：用潜空间文档增强提升 RAG
该论文提出 CacheGraft 框架，将原本用于多智能体实时通信的 KV 缓存翻译技术迁移到检索增强生成（RAG）场景。方法是在离线索引阶段，用 4B 的 Qwen3-4B-Base 作为 sharer 模型、0.6B 的 Qwen3-0.6B 作为 receiver 模型，通过 C2C 融合器把大模型的 KV 缓存融合进小模型的缓存空间，查询时只需部署小
正文结构化主题已通过公开置信门槛
BlockLock：固定批几何实现可复现 LLM 推理
论文提出 BlockLock，一种让 LLM 推理在批处理中保持可复现的方法：通过固定受保护请求所见的张量几何形状（BlockLock-Rows 固定行宽并保留批量解码，BlockLock-Pack 采用终端锚定打包并隔离 dummy 段），使目标请求的输出在其他请求变化时保持逐位一致。在 Qwen3、Llama-3.1、Gemma-3 等五个稠密模型和 A
正文结构化主题已通过公开置信门槛
BRIDGE：弥合生成式推荐中的语义量化鸿沟
论文提出生成式推荐中此前被忽视的「语义量化鸿沟」（SQG）：RQ-VAE 量化阶段利用码本质心、邻域几何与层级熵等丰富连续信息构建语义 ID，但解码器仅获得离散标识符，导致语义锚定缺失、邻域信息丢失与计算分配失当三类问题。作者提出 BRIDGE 框架，通过码本锚定的潜在推理、特权 EMA 自蒸馏与难度感知循环三个耦合组件弥合该鸿沟。在三个 Amazon 基准
正文结构化主题已通过公开置信门槛
FlexFloor：弹性专家并行实现资源高效的强化学习后训练
清华大学的研究者提出 FlexFloor 系统，用于解决 MoE 模型强化学习后训练中响应生成阶段的资源浪费问题：部分 worker 完成自身响应后，因其他 worker 仍在处理长响应而必须继续占用专家资源。FlexFloor 通过联合调整响应调度与活跃 worker 组，在保持专家可用性的前提下逐步释放已完成 worker。相比 verl 基线，其单位占
正文结构化主题已通过公开置信门槛
Octopus：面向潜在 KV 多智能体强化学习的分支执行框架
该论文提出 Octopus，一个将服务运行时、GPU 内存管理与强化学习框架协同设计的系统，把智能体执行过程建模为 GPU 常驻的 DAG，通过 fork、rewind、read thread、wait、done 五个原语在不可变 radix 游标上协调多智能体。它仅在 full-attention 层拼接兄弟 KV 页、循环层跳过挂载区间，将离任务劫持从
正文结构化主题已通过公开置信门槛
竞争流匹配扩展质量-覆盖度前沿
该论文提出 Competitive Flow Matching 方法，通过在训练中引入低维高斯辅助条件码，让模型对同一噪声状态生成 K 个候选速度预测，并仅对最匹配的候选施加损失（赢家通吃），从而缓解流匹配生成器在质量与覆盖度之间的权衡。在 ImageNet-256 上，该方法以不到原始 SiT 预训练 3% 的计算量进行后训练，在 67% Recall 点