llama.cpp b10618 发布：修复 GBNF 语法转义问题
llama.cpp 发布 b10618 版本，修复了 GBNF 语法解析中字符类内连字符转义（\-）的问题，该问题导致工具调用语法解析失败。此修复由 Claude Code 辅助完成，并添加了相应的解析器测试。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的二进制文件。
部署工程
技术方向 · 把模型跑起来的工程实践：推理优化、量化与成本、Serving 架构与可观测性 · 共 3338 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
8月25日周二 · 12 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
OpenAI 定制推理芯片 Jalapeño 首批结果：速度与能效行业领先
OpenAI 推出定制推理芯片 Jalapeño，其首批结果显示在 AI 推理上具备行业领先的速度与能效，可为现代模型提供更高吞吐量和更低延迟。
正文结构化主题已通过公开置信门槛
llama.cpp b10617 发布：SYCL 后端弃用 tq2 0
llama.cpp 发布 b10617 版本，主要变更是在 SYCL 后端中将 tq2 0 标记为不支持。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件，涵盖 CPU、Vulkan、CUDA、ROCm、OpenVINO 等后端。
正文结构化主题已通过公开置信门槛
OpenAI Codex负责人Tibo访谈：Agent将走向云端，ChatGPT与Codex融合
OpenAI Codex负责人Tibo在播客访谈中表示，ChatGPT和Codex将融合为统一的个人AGI，下一代Agent将走向云端和更大规模计算资源，并强调OpenAI已实际应用递归式自我改进。他还回顾了在Google DeepMind的经历，认为OpenAI文化更注重快速交付和自下而上的创新。
正文结构化主题已通过公开置信门槛
KVBoost：块级 KV 缓存复用与偏差引导重计算加速 LLM 推理
KVBoost 是一个面向 HuggingFace 兼容解码器模型的块级 KV 缓存复用系统，通过双哈希键控和偏差引导的重计算，解决了共享内容出现在提示任意位置时的缓存命中问题。在 Qwen2.5-3B 模型上，KVBoost 相比全量重计算实现了 4.49 倍的 TTFT 加速，比 vLLM 前缀缓存快 16%，且无质量损失。该系统支持 KV 量化、磁盘溢
正文结构化主题已通过公开置信门槛
VC用AI预测未来：DigClaw框架在FutureX获三个前十
DigClaw公司的预测框架Rhizome v1在FutureX评测平台上获得三个前十席位，验证了预测能力可独立于基座模型。该框架通过搜索与推理解耦、轨迹记录与概率校准、因果链感知更新三大设计，降低了过度自信率。DigClaw及其关联的Newborn Ventures将这一能力应用于投资决策，并计划向产业方、金融机构和政府引导基金开放服务。
正文结构化主题已通过公开置信门槛
Cerebras 在 Hot Chips 详解 CS-4 架构并预览 CS-5、CS-6 路线图
Cerebras 在 Hot Chips 2026 大会上深入介绍了 CS-4 加速器的系统架构，包括 Nexus 机架级平台、晶圆级引擎的供电与冷却设计，并预览了 CS-5 和 CS-6 路线图。CS-5 计划于 2027 年推出，目标在开源模型上实现每用户每秒 1 万输出 token，在万亿参数级前沿模型上实现每秒 5000 token 和每兆瓦每秒 3
正文结构化主题已通过公开置信门槛
Warmly 发布 Qwen3.5-2B 韩英 GGUF 生产模型
neureps 发布了 warmly-qwen35-2b-enko-gguf，这是离线 SNS 应用 Warmly 的生产模型仓库，基于 Qwen3.5-2B-enko 进行词汇剪枝和 GGUF 量化。仓库包含 base 版本和 distill-v1 版本，后者通过蒸馏提升了韩语自然性，并通过了官方门禁但尚未晋升。量化变体对比显示，IQ4 XS 结合领域 i
正文结构化主题已通过公开置信门槛
Qwen3.8-27B-heretic-dflash：非官方 5 层 DFlash 投机解码草稿模型
jfan 发布了非官方的 Qwen3.8-27B-heretic-dflash 模型，这是一个基于 DFlash 架构的 5 层投机解码草稿模型，专为目标模型 trohrbaugh/Qwen3.8-27B-heretic-ara 设计。该模型目前训练至 10k/60k 步，在 Apple M5 Pro 上实现了约 41.6% 的解码加速，支持 MLX、vLL
正文结构化主题已通过公开置信门槛
llama.cpp b10615 发布：Metal flash-attn 按设备调优
llama.cpp 发布 b10615 版本，主要针对 Metal 后端为 flash-attn 向量计算添加了按设备调优的 (Q, NE) 参数，并新增了调优工具和表格，覆盖 M1 Pro、M2 Ultra、M5 Max 等设备。该版本同时提供了多平台二进制包，包括 macOS、Linux、Windows、Android 等。
正文结构化主题已通过公开置信门槛
llama.cpp b10614：Metal 后端并行编译与新增算子支持
llama.cpp 发布 b10614 版本，主要针对 Metal 后端进行重构，将算子源码拆分为多个文件并支持并行编译，显著提升编译速度。同时新增了 col2im 1d、CONV 2D DW（深度卷积）、Q2 0 等算子支持，并融合了 snake 激活函数。该版本还提供了多平台（macOS、Linux、Windows、Android 等）的预编译二进制文件
正文结构化主题已通过公开置信门槛
英伟达AI服务器明年涨价超15%，存储成本压力传导
英伟达通知部分核心客户，自明年年初起，搭载其AI芯片的服务器价格将上涨超过15%，覆盖Vera Rubin和Grace Blackwell等旗舰产品，原因是存储芯片成本大幅上涨。涨价由代工厂商向微软、谷歌、甲骨文等客户传达，英伟达未回应。此举凸显存储芯片厂商三星、SK海力士、美光在AI基础设施需求爆发下的定价话语权，并给AI数据中心建设带来不确定性。
8月24日周一 · 8 条
正文结构化主题已通过公开置信门槛
NVIDIA Vera Rubin 和 Blackwell 树立代理式 AI 每瓦性能新标准
NVIDIA 技术博客介绍了 SemiAnalysis 的 AgentX 基准测试，用于评估 AI 基础设施在代理式编码推理中的性能。该基准通过重放真实编码代理会话，测量每兆瓦吞吐量等指标。NVIDIA 公布的预览结果显示，Vera Rubin NVL72 在 AgentX 工作负载下每兆瓦吞吐量比 GB300 NVL72 高出 30 倍，而 GB300 N
正文结构化主题已通过公开置信门槛
NVIDIA DSX MaxLPS：优化 AI 工厂每瓦性能
NVIDIA 发布了 DSX MaxLPS 技术套件，旨在提升 AI 工厂在固定电力预算下的吞吐量。该套件通过动态功率分配、软件优化和 45°C 温热水冷技术，将静态机架供电改为动态调度，可回收闲置功率并提升能效。其核心组件 Dynamic Power Software (DPS) 和 DSX Exchange 目前处于开发者预览阶段，有望显著提高 AI 数
正文结构化主题已通过公开置信门槛
NVIDIA Vera CPU 应对代理型 AI 舰队挑战
NVIDIA 技术博客分析了代理型 AI 工作负载的轨迹特征，指出其高度可变且以顺序延迟为主。基于 163,594 个会话的遥测数据，超过 97% 的轨迹是独特的。NVIDIA Vera CPU 采用平衡架构，兼顾单线程性能与并发能力，以优化整个代理轨迹，相比最新竞争产品可提供高达 1.5 倍的代理性能，从而提升 AI 工厂的舰队经济性。
正文结构化主题已通过公开置信门槛
微软将AI治理从政策转向运行时执行
微软提出了一套AI治理架构，将治理从政策文档转向运行时执行、持续评估、可观测性和审计证据。该架构涵盖九个治理域和四个功能，并整合了Microsoft Foundry、Purview、Entra ID等产品。微软还发布了开源Agent治理工具包，为自主代理提供运行时安全能力。
正文结构化主题已通过公开置信门槛
llama.cpp b10612 发布：禁用 WebGPU 测试并更新多平台二进制
llama.cpp 发布了 b10612 版本，主要变更包括禁用 WebGPU 的 DOTS3NOTE 架构测试，并提供了适用于 macOS、Linux、Windows、Android 和 iOS 的多种预编译二进制文件，涵盖 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 等后端。该版本还提供了 UI 包，并支持 openEuler
正文结构化主题已通过公开置信门槛
llama.cpp b10610 发布：优化 CUDA 与 Metal 设备命名
llama.cpp 发布 b10610 版本，主要更新为缩短 CUDA 和 Metal 后端中虚拟设备的命名，并优化了 Metal 设备描述在初始化时的构建。该版本提供了适用于 macOS、Linux、Windows、Android 等多平台的预编译二进制文件，涵盖 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 等后端。
正文结构化主题已通过公开置信门槛
Langfuse v4.17.0 发布：新评估体验与 Anthropic 支持
Langfuse 发布 v4.17.0 版本，主要更新包括新的评估用户体验、从 trace 表和事件表创建标注队列、显示任意元数据、迁移 UI 默认显示、支持 Anthropic Messages 作为 Langfuse Assistant 的模型提供商，以及多项修复和优化。该版本还改进了 MCP 清理、评估器模型过滤和监控调度器，并移除了 Assistan
正文结构化主题已通过公开置信门槛
汤森路透斥资4000万美元自建法律AI模型，基于阿里Qwen
汤森路透投资约4000万美元，基于阿里巴巴的Qwen开源模型构建了自有法律AI模型“Thomson”，并利用公司内部数据和领域专家进行训练。测试显示，Thomson在访问公司专属内容时能超越GPT-5.4等竞品，但在推理和编码方面表现较弱。公司计划将Thomson用于文档审查等高频任务，并发布小版本模型供非商业使用，以降低成本并保持独立性。