llama.cpp b12034：修复 WebGPU scratch 分配尺寸非单调问题
llama.cpp 发布 b12034 版本，主要修复 WebGPU 后端的 CI 问题：此前 flash attention vec 路径与 MMVQ 路径会在 dst 之后追加 scratch 区域，但 get alloc size 仅在该批次走对应路径时计入该开销，导致分配尺寸对 batch 长度不单调，在 GGML SCHED NO REALLOC
部署工程
技术方向 · 把模型跑起来的工程实践：推理优化、量化与成本、Serving 架构与可观测性 · 共 3295 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
11月2日周一 · 12 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
仪电智算云发布Token工厂，提出三重可信体系
上海仪电与上海创智学院在全球数商大会上联合发布“飞轮转·万象生”仪电智算数链生态，并推出仪电智算云Token工厂，提出服务运营、自主生态、安全合规三重可信体系。文章指出中国日均Token调用量两年多增长上千倍，但行业缺乏统一计量标准、国产化适配基线和可追溯机制，制约企业将AI用于核心业务。Token工厂通过高性能推理引擎、弹性调度和异构算力纳管提供生产级词元
正文结构化主题已通过公开置信门槛
阿里 FunASR 发布 funasr-onnx 0.4.4
阿里 FunASR 发布独立包 funasr-onnx 0.4.4，可通过 pip 安装，不更新根 funasr 版本。该版本包含此前合并的流式 Paraformer 零重叠缓存、空最终输出、VAD 与跨流缓存重置、时间戳对齐及富转写事件处理等修复，并在两个发行包中加入 MIT 声明。运行时依赖与模型权重未变，发布经过 wheel、sdist、CI 及包字节
正文结构化主题已通过公开置信门槛
Agent走出试用期：金融机构开始算Token价值账
腾讯云副总裁胡利明在腾讯全球数字生态大会金融行业群访中表示，金融客户关注点已从云基础设施全面转向AI，Agent正从回答问题走向执行任务。腾讯云WorkBuddy企业版已进入约250家金融机构，中金公司每天消耗Token达70亿至100亿，预计明年达200亿。随着规模扩大，金融机构开始追问Agent的投入产出、Token使用效率及安全合规问题，落地仍处于从单
正文结构化主题已通过公开置信门槛
规避计算套利的计算困难性
该论文将 AI 模型市场中的计算套利形式化为预算分配问题，并证明其一般情形为 NP-hard。作者发现，当推理支出在降低失败率上呈现对数边际收益递减时，目标函数为联合凹函数，可在大规模模型市场中高效求得全局最优解。研究还提出贪心查询排序规则和基于经验贝叶斯的样本高效效用估计方法，在多个智能体与编码基准上取得优于任何单一模型的成本-性能权衡，并给出边际效用均等
正文结构化主题已通过公开置信门槛
PathoJev：共享视觉上下文的高效病理决策模型
研究团队提出病理模型 PathoJev，基于 System One 范式，对整张切片和 ROI 直接预测答案概率，而非逐题生成文本。模型对每张切片只编码一次，多个问题共享视觉上下文并批量评估，同时复用混合骨干网络的循环状态以降低计算量。在三个全切片基准上，9B 和 27B 版本平均准确率分别为 77.2% 和 78.1%，超过 SlideChat 5.4 和
正文结构化主题已通过公开置信门槛
CLR-Bench：用隐藏规则课程评测自进化智能体
研究者提出 CLR-Bench 基准，用隐藏规则课程测试自进化智能体能否从稀疏反馈中归纳出未被告知的规则并泛化到未见样本。基准包含 10 个领域 20 条链，每级叠加一条隐藏规则，规则对应公开网络上的命名分组（如航空联盟创始成员）。评估六个自进化方法发现，在认证模型下它们几乎学不到规则，最佳仅比冻结智能体高 5 分；而给出命名分组约定的固定提示可提升 14.
正文结构化主题已通过公开置信门槛
谱系即记忆：短预算LLM引导优化中的父代继承与反馈披露
该论文通过1750次预注册实验，在九个基准上分离了父代继承与反馈披露对LLM引导优化器的影响。研究发现，贪心父代继承贡献了绝大部分优化进展，即使种子重置方案每轮获得全部失败案例的聚类摘要或使用更大提议模型也无法超越。此外，GEPA的token开销分析显示提议者反思仅占小部分成本，验证和小批量门控消耗了几乎全部预算。
正文结构化主题已通过公开置信门槛
迈向AGI的扩展是否取决于System-1让System-2执行什么？
该论文提出「条件交互」框架：由轻量、具备语义感知的 System-1 预测器先评估候选交互的效用，再通过自适应阈值筛选，只让资源密集的 System-2 执行值得付出成本的交互，并用执行结果更新 System-1。作者在理想筛选与等执行成本假设下推导出执行计算量可降至约 1/ρ u（ρ u 为效用相关交互密度），并给出由预测误差与效用间隔界定的选择遗憾上界。
正文结构化主题已通过公开置信门槛
2026全球AI新云图谱：评估标准转向TCO与工程能力
雷峰网AI科技评论报道了2026年全球AI新云（NeoCloud）产业图谱，将CoreWeave、Nebius、Lambda、Together AI、九章云极DataCanvas等厂商按GPUaaS、GPUaaS+MaaS、AI Engineering三条路径分层。文章指出行业评估标准已从算力规模转向TCO、训推交付稳定性、Token服务效率和AI基础设施工
正文结构化主题已通过公开置信门槛
MiniMax-M3.1-Flash GGUF 量化版发布，4270 亿参数模型可在普通 PC 运行
开发者 LyJonathan 在 Hugging Face 发布了 MiniMax-M3.1-Flash 的 GGUF 量化版本，并配套自研推理引擎 Sparsa，使这个 4270 亿参数的 MoE 模型能在普通 PC 上运行。其中 124.5 GB 的 IQ2 XXS 档位可在两张 16 GB 显卡加 121 GB DDR4 内存的配置上运行，提示处理速度
正文结构化主题已通过公开置信门槛
DeepSeek-V4.1-Flash-1017 的 Maya GGUF 量化版发布
开发者 peasantsmith 在 Hugging Face 发布了 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本（Maya-S 与 Maya-XS），专为 Project Maya 推理引擎设计，通过将高频专家保留在 GPU、其余专家从内存和 SSD 读取，使模型可在 128GB 内存的 PC 上运行。两个量化版本均基于 De
11月1日周日 · 8 条
正文结构化主题已通过公开置信门槛
XHToken 发布端侧模型 Spark-X2.6-4B 及 GGUF 版本
XHToken 发布 Spark-X2.6-4B 及其 GGUF 版本，这是一款面向端侧部署的 4B 参数通用语言模型。该模型沿用 Spark-X2.5-4B 的架构，通过改进后训练在编码、智能体、长上下文、多语言和推理等能力上取得提升，并支持 none/low/high 三档可控思考预算。官方称其在同类开源模型中达到领先水平，部分基准可匹敌约 9B 参数模
正文结构化主题已通过公开置信门槛
Pika 基于 MiniMax H3 开源 H3 Flex，六步实现音视频联合生成
Pika 基于 MiniMax H3 发布衍生模型 Pika H3 Flex，开放适配器权重与推理代码，通过六步去噪联合生成画面和声音，支持文本、首尾帧及多模态参考输入。该模型原生支持 480P、768P 输出，可生成约 5 至 15 秒视频及同步立体声音频，并提供 ComfyUI 工作流与 Hugging Face Diffusers 接入。Pika 通过
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12032：SYCL 后端改用 PkgConfig 查找 LevelZero
llama.cpp 发布 b12032 版本，主要变更是 SYCL 后端尝试通过 PkgConfig 查找 LevelZero 的头文件与库。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于构建与后端适配层面的维护性发布，
正文结构化主题已通过公开置信门槛
AWS承诺容量至2027年基本售罄，仍保留按需余量
亚马逊CEO Andy Jassy在播客中表示，AWS的大规模承诺云容量到2027年基本售罄，2028年相当一部分也已分配，但公司仍为按需实例、EC2和Bedrock保留余量。分析师David Linthicum认为报道夸大了情况，指出预预留容量块与日常可分配容量不同；Reddit开发者则反映普通EC2实例近期也出现容量紧张。该表态反映AI算力需求持续挤压云
正文结构化主题已通过公开置信门槛
llama.cpp b12031：OpenCL 后端初步支持 IQ3 量化
llama.cpp 发布 b12031 版本，为 OpenCL 后端新增对 IQ3 S 和 IQ3 XXS 两种量化格式的初步支持，涵盖 AOS/SOA 矩阵向量乘、tiled matmul、Adreno GPU 上的 noshuffle GEMM/GEMV 与 dp4a 路径，并针对 Adreno 解码和窄批次做了优化。该改动由高通工程师参与贡献，部分代码
正文结构化主题已通过公开置信门槛
llama.cpp b12030 修复 Hexagon DMA 大 stride 截断问题
llama.cpp 发布 b12030 版本，修复了 Hexagon 后端在 v75+ 硬件上 DMA 传输的缺陷：2D DMA 描述符仅用 24 位存储 row size 和 stride，导致 16MB 及以上的 stride 被截断、地址错误。修复方式是在该情况下回退为逐行传输，并重构了回退路径以消除重复代码，同时新增两个 stride 超过 16MB
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12029：修复 InternVL CLS token 顺序
llama.cpp 发布 b12029 版本，主要修复了 mtmd 模块中 InternVL 的 CLS token 顺序问题（#30886）。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制，涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更
正文结构化主题已通过公开置信门槛
llama.cpp b12028：测试中启用 Gemma 4
llama.cpp 发布 b12028 版本，主要变更是在 test-llama-archs 测试中启用 Gemma 4，并针对 Gemma 4 使用 GQA。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于测试与构建层面的维