llama.cpp b10532：Metal 后端 KV 反量化优化 Flash Attention
llama.cpp 发布 b10532 版本，在 Metal 后端为 flash attention 新增 KV 缓存反量化预处理，将 Q8 0、Q4 0、Q4 1、Q5 0、Q5 1 等量化 KV 反量化为 F16 后运行注意力内核，并优化了 MLA 模型中 V 为 K 视图时的冗余反量化。该版本在 M2 Ultra 上通过全部 4798 项测试，Qwen
部署工程
技术方向 · 把模型跑起来的工程实践：推理优化、量化与成本、Serving 架构与可观测性 · 共 3339 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
8月21日周五 · 13 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
llama.cpp b10531 发布：回滚 tensor-split 修复并更新多平台二进制
llama.cpp 发布 b10531 版本，主要变更包括回滚了 tensor-split meta 后端的修复提交。该版本提供了适用于 macOS、Linux、Windows、Android 和 iOS 的多种预编译二进制文件，支持 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 等后端。部分平台（如 macOS KleidiAI、U
正文结构化主题已通过公开置信门槛
Amazon Bedrock推出OpenAI GPT-5.6跨区域推理支持
AWS宣布OpenAI GPT-5.6模型现已在Amazon Bedrock上支持跨区域推理，覆盖超过25个AWS区域。该功能通过地理和全球推理配置文件实现，允许请求在多个区域间路由，以提高吞吐量和性能。GPT-5.6系列包括Sol、Terra和Luna三个变体，支持文本和图像输入，具有100万token上下文窗口，并支持推理模式、工具调用和提示缓存。
正文结构化主题已通过公开置信门槛
Ektome-Qwen3.8-27B：无审查模型发布，能力保持且支持长上下文
Zynerji 发布了基于 Qwen3.8-27B 的未审查模型 Ektome-Qwen3.8-27B-PristinelyUncensored，采用 Ektomē 技术去除拒绝行为，同时保持甚至略微提升模型能力（MMLU-val 从 0.812 升至 0.818，有害请求拒绝率从 100% 降至 0%）。该模型保留了完整的 MTP 头和视觉塔，并提供了多种
正文结构化主题已通过公开置信门槛
llama.cpp b10520 发布：修复 ARM FP16 编译问题
llama.cpp 发布 b10520 版本，主要修复了 ggml-cpu 中 fp16 类型在 32 位 ARM 平台上的编译问题，通过检查 ARM FP16 FORMAT IEEE 宏来确保类型可用性，并调整了 NEON+FMA 代码块的编译条件。该版本提供了适用于 macOS、Linux、Windows、Android 等多种平台的预编译二进制文件，并
正文结构化主题已通过公开置信门槛
ThinkingCap-Qwen3.6-27B 发布 MagicQuant 量化版 GGUF
lmcoleman 发布了 ThinkingCap-Qwen3.6-27B 的 GGUF 量化版本，使用 MagicQuant 混合进化逐张量搜索方法，提供 Q4、Q5、Q6 等不同量化档位，并推荐 Q5 档位以平衡质量与大小。该模型基于 bottlecapai 的 ThinkingCap-Qwen3.6-27B，支持文本生成和视觉输入，可在 LM Stud
正文结构化主题已通过公开置信门槛
llama.cpp b10519 发布：重构睡眠处理并支持睡眠期间访问指标
llama.cpp 发布 b10519 版本，主要重构了服务器端的睡眠处理逻辑，允许在睡眠期间访问 /metrics 端点，并添加了缓存响应、拆分指标与槽位任务等改进。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。
正文结构化主题已通过公开置信门槛
Muse-Glimmer-30B 无审查量化版发布：27 种 GGUF 覆盖多硬件
0bserverx 发布了 Muse-Glimmer-30B-Heretic-Uncensored-GGUF，这是基于 Meta 的 Muse-Glimmer-30B 模型，通过 Heretic v1.4.0 进行 abliteration 处理，并提供了 27 种 GGUF 量化版本，内存占用从 6.53 GB 到 55.73 GB 不等。该模型支持视觉-
正文结构化主题已通过公开置信门槛
Anthropic 多个 Claude 模型请求错误率升高已解决
Anthropic 报告称，多个 Claude 模型（包括 claude.ai、Claude API、Claude Code 和 Claude Cowork）出现错误率升高的问题。目前该问题已解决，团队正在调查原因并会尽快提供更新。
正文结构化主题已通过公开置信门槛
llama.cpp b10517 发布：Vulkan 后端优化与多平台支持
llama.cpp 发布 b10517 版本，主要针对 Vulkan 后端进行优化，包括在 coopmat1 中一次性反量化 q8 0 KV 缓存，并改进了 Flash Attention 路径的容错与布局检查。该版本还提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。
正文结构化主题已通过公开置信门槛
Liquid AI 发布 LFM2.5 Q4 0 量化感知蒸馏检查点
Liquid AI 发布了 LFM2.5 系列模型的 Q4 0 量化检查点，采用量化感知蒸馏（QAD）技术，将高精度教师模型蒸馏为量化学生模型，恢复了 BF16 精度损失的 97%。这些检查点在保持 Q4 0 低内存和高吞吐的同时，质量接近或超过 Q5 K M 和 Q4 K M，并已在 Hugging Face 上开放下载。
正文结构化主题已通过公开置信门槛
Ramp 推出 AI 模型路由服务 Router
企业支出管理平台 Ramp 推出了自己的 AI 模型路由服务 Router，允许用户和公司通过 API 使用和切换多种大语言模型。该服务目前仅在美国可用，2026 年剩余时间内免费，并提供 26 美元信用额度。Router 提供来自 OpenAI、Anthropic、DeepSeek 等多家公司的模型，并支持多种路由策略和仪表盘监控。此举旨在进入 AI 推理
正文结构化主题已通过公开置信门槛
微软发布Skala 1.1：提升DFT精度并集成主流化学软件
微软研究院发布了深度学习密度泛函（DFT）模型 Skala 1.1，该版本训练数据量是前版的2.5倍，在热化学、反应动力学和分子结构预测等关键模拟任务上精度显著提升。Skala 现已集成到 CP2K，并正在整合到 Psi4、FHI-aims、ORCA 和 VASP 等主流电子结构软件中，同时推出实时基准以跟踪性能。这些进展旨在使计算化学模拟更具预测性，并广泛
8月20日周四 · 7 条
正文结构化主题已通过公开置信门槛
使用 Amazon Bedrock 为医疗 API 构建智能安全
AWS 博客介绍了如何使用 Amazon Bedrock 为 FHIR 医疗 API 构建智能安全监控。该方案通过异步分析访问模式、自动分类数据敏感度并生成自然语言合规报告，在不影响 API 延迟的前提下增强安全性。它使用 AWS Lambda、API Gateway、HealthLake 等组件，并包含 CloudFormation 模板和代码示例。
正文结构化主题已通过公开置信门槛
llama.cpp b10516 发布：修复 Vulkan 空指针问题
llama.cpp 发布 b10516 版本，主要修复了 Vulkan 后端中 ggml vk queue command pools cleanup 函数的空指针检查问题。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件，并支持多种后端如 CUDA、Vulkan、OpenVINO 等。
正文结构化主题已通过公开置信门槛
llama.cpp b10514 新增 Granite SWA 模型支持
llama.cpp 发布 b10514 版本，新增对 GraniteSWAForCausalLM 和 GraniteMoeSWAForCausalLM 模型架构的转换与推理支持，包括滑动窗口注意力模式、逐层 RoPE 判定及 MoE 参数处理。该更新由 IBM 的 Gabe Goodhart 主导，并借助 AI 辅助编码工具完成。此版本增强了 llama.c
正文结构化主题已通过公开置信门槛
llama.cpp b10509 发布：新增 ggml rope set offset 并支持多后端
llama.cpp 发布 b10509 版本，新增 ggml rope set offset 操作，并支持 Metal、CUDA、Vulkan 后端。该版本提供了多平台预编译二进制文件，包括 macOS、Linux、Windows、Android 等。
正文结构化主题已通过公开置信门槛
Zetta：用于自进化物理智能的高效闭环具身框架
Zetta是一个闭环具身智能框架，通过在线演化基于代码的运行时批评者和恢复技能，在保持基础策略冻结的同时，以动作频率治理物理执行。在LIBERO-Pro和RoboCasa基准上分别达到90.8%和93.6%的成功率，推理速度提升11.1倍，且技能可零样本迁移，展现出机器人"顿悟时刻"。该研究为可靠物理智能的扩展提供了新路径。
正文结构化主题已通过公开置信门槛
LLM委托合约：技术与努力选择中的道德风险
该论文将经典委托-代理框架扩展至LLM代理选择技术与努力水平（如token预算）的场景，建模了凹性饱和生产函数，推导了最优线性合约，并基于MATH和MMLUPro基准校准模型，证明简单线性合约能有效激励技术感知的委托。
正文结构化主题已通过公开置信门槛
推理设置影响大语言模型在医学分配中的行为
该研究通过医学资源分配场景，发现大语言模型在推理时是否包含先前响应会显著影响其行为，且不同模型间概率变化方向可能相反。研究强调部署环境中的上下文工程对模型决策的重要性，并指出单次评估可能掩盖多轮任务中的潜在风险。