Anthropic 发布 Sonnet 5.5：更快更便宜的中端模型
Anthropic 发布中端模型 Sonnet 5.5，官方称其比前代 Sonnet 5 快 30%、token 消耗显著更低，定位为日常任务（含编程和办公文档）的高性价比助手。基准测试显示 Sonnet 5.5 在智能体编程上优于 Opus 5.5，并具备与 Opus 5 相当的网络安全能力，因此成为首个适用与 Fable、Opus 相同网络安全防护措施的
部署工程
技术方向 · 把模型跑起来的工程实践：推理优化、量化与成本、Serving 架构与可观测性 · 共 3314 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
9月29日周二 · 6 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
武打动作 LoRA wushu-action-v7 基于 MiniMax H3 发布
Hugging Face 用户 Jojocodex 发布武打动作风格 LoRA「wushu-action-v7-minimax-h3-fl2va-ref2va-lora」，基于 MiniMaxAI/MiniMax-H3 底模，使用 924 段精选武打片段、以全量 int8-convrot DiT 加 bf16 Qwen3-VL 文本编码器训练 1000 步，
正文结构化主题已通过公开置信门槛
llama.cpp b11235 发布：修复 Windows 上 HF 缓存路径
llama.cpp 发布 b11235 版本，主要修复了 Windows 平台上 Hugging Face 缓存路径的问题（由 Adrien Gallouët 提交，取代此前的 #29158）。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等
正文结构化主题已通过公开置信门槛
在 SageMaker AI 上用 vLLM-Omni 构建实时语音应用（上）
AWS 发布教程，介绍如何在 Amazon SageMaker AI 上使用 vLLM-Omni 深度学习容器部署 Qwen3-TTS 文本转语音模型，实现边生成边播放的流式语音输出。方案通过 SageMaker 双向流式 WebSocket 在单一持久连接上传输文本与音频，并配合 Gradio 应用演示。这是关于专用 DLC 系列文章的第一部分，后续将覆盖
正文结构化主题已通过公开置信门槛
在 SageMaker AI 上用 vLLM-Omni 生成图像与视频（第二部分）
AWS 机器学习博客发布教程第二部分，介绍如何在 Amazon SageMaker AI 上使用 AWS vLLM-Omni 深度学习容器，从同一容器镜像部署两个端点：一个实时端点运行 FLUX.2-klein-4B 生成图像，一个异步端点运行 Wan2.1-VACE-1.3B 生成视频。工作流将文本提示生成静态图像，再把图像和运动提示传给视频端点，最终从
正文结构化主题已通过公开置信门槛
llama.cpp b11234 发布：修复 WebGPU 未对齐写入
llama.cpp 发布 b11234 版本，主要修复了 WebGPU 后端 ggml backend webgpu buffer set tensor 中未对齐写入的问题，并进行了 Clang 格式化。该版本同时提供了覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台、多后端（CPU、CUDA、Vulka
9月28日周一 · 14 条
正文结构化主题已通过公开置信门槛
使用 Amazon Nova Act 实现合成监控
AWS 博客介绍了一种基于 Amazon Nova Act 和 Amazon Bedrock AgentCore 的合成监控方案，用多模态大模型处理 UI 截图而非 DOM 选择器来执行用户旅程验证。该方案结合 EventBridge Scheduler、AgentCore Runtime 和 Browser 工具实现无服务器调度与隔离浏览器执行，失败时通过
正文结构化主题已通过公开置信门槛
llama.cpp b11233：重构回滚测试并修复 Metal 图融合
llama.cpp 发布 b11233 版本，主要重构了 test-recurrent-state-rollback 测试，改用 llama context ptr 并支持遍历所有 dummy 模型；同时修复 Metal 后端融合逻辑，允许 0 元素节点参与图打包以保持形状无关性，并放宽 split replay 的 nmse 阈值至 1e-4 以减少随机权
正文结构化主题已通过公开置信门槛
Cloudflare 发布 Vinext 1.0：基于 Vite 的 Next.js 移植框架
Cloudflare 发布 Vinext 1.0，这是一个基于 Vite 的框架，可将 Next.js 应用（Pages Router 和 App Router）移植到 Cloudflare Workers、Netlify、AWS Lambda 等任意平台。1.0 版本大幅提升了兼容性、稳定性和缓存行为，对客户请求的重要功能兼容性超过 99%，并新增对 Pa
正文结构化主题已通过公开置信门槛
llama.cpp b11232：x86 启用分块 flash attention
llama.cpp 发布 b11232 版本，主要更新是在 x86 平台上为 ggml-cpu 后端启用了针对非向量倍数头维度的分块 flash attention，并为 simd gemm ukernel tail 增加了 AVX2 掩码加载/存储支持，同时修复了填充 KV 分块的 FA softcap 处理。该版本同步提供 macOS、Linux、Win
正文结构化主题已通过公开置信门槛
llama.cpp b11228：Metal 后端支持左填充与循环填充
llama.cpp 发布 b11228 版本，主要更新是 Metal 后端在 GGML OP PAD 算子中支持左侧填充和循环填充，使其与 CPU、CUDA、Vulkan 后端行为对齐，并修复了置换源张量的右侧填充问题。改动还移除了较慢的 f32 4 内核，并按评审意见改用函数常量 FC PAD 来特化循环填充内核。该版本同时提供 macOS、Linux、W
正文结构化主题已通过公开置信门槛
Cohere 开源 2B ASR 模型发布 GGUF 量化版
Cohere 开源了 2B 参数的 ASR 模型 cohere-transcribe-03-2026，在 Open ASR Leaderboard 上以平均 WER 5.42 排名第一。社区用户 cstr 将其转换为 GGUF 格式并发布，提供 F16 到 Q4 K 共 6 种量化版本，可借助 CrispASR C++ 运行时在 CPU 上高效推理。模型卡还
正文结构化主题已通过公开置信门槛
llama.cpp b11227：修复 causal attn 切换导致的调度器重复预留
llama.cpp 发布 b11227 版本，核心改动是修复 llama context::set causal attn() 在切换 causal attn 标志时每次都触发调度器完整重新预留（sched reserve）的问题。由于 Gemma 模型处理视觉输入时每个非因果图像块会两次翻转该标志，导致每张图片产生两次昂贵的重新预留，多图或视频输入尤为缓慢
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b11225：修复测试中 ggml 初始化问题
llama.cpp 发布 b11225 版本，主要修复了测试中 ggml 的初始化问题，涉及 test-recurrent-state-rollback、test-save-load-state 和 test-state-restore-fragmented 等测试用例。同时提供了覆盖 macOS、iOS、Linux、Android、Windows 及 op
正文结构化主题已通过公开置信门槛
LiteLLM 发布 v1.104.0-rc.1 候选版本
LiteLLM 发布 v1.104.0-rc.1 候选版本，所有 Docker 镜像均使用 cosign 签名，并提供了基于固定 commit hash 和 release tag 两种验证方式。该版本包含多项修复与改进，涉及 Azure code interpreter 测试、router 预算 Redis 管道、OpenAI 缓存图像输入价格、Langf
正文结构化主题已通过公开置信门槛
llama.cpp b11224：修复 Vulkan 矩阵运算读取缓存切片错误
llama.cpp 发布 b11224 版本，主要修复 Vulkan 后端在 mul mat、mul mat id 等矩阵运算中读取较大缓存切片（如 KV cache 的跨步视图）时结果错误的问题。修复通过从 nb[2] 推导原地读取张量的批步长、按跨步范围绑定 A/B 缓冲区，并新增 test-backend-ops 的 m v 参数测试用例覆盖这些场景。
正文结构化主题已通过公开置信门槛
LMDeploy 发布 v0.18.0：新增 logprobs 与多平台支持
LMDeploy 发布 v0.18.0 版本，新增输出输入 logprobs、扩展 SM90 量化 GEMM、支持昇腾平台 glm52、为 qwen3.5 支持 dflash，并将共享专家移入 MoE FFN 层。该版本还包含大量性能改进与重构，如 TurboMind 迁移至 C++20、新增分段 CUDA graph 预填充、支持 checkpoint-e
正文结构化主题已通过公开置信门槛
从算得快到干得了活：AI推理时代CPU重塑算力版图
英特尔在9月22日Connection大会上提出，AI从训练走向智能体推理后，CPU正从配角变为系统控制中枢。其至强6+处理器（Intel 18A制程、最高288能效核）单颗可部署近千个智能体，SWE-bench单智能体性能领先竞品15%，并联合焱融科技在MLPerf Storage v3.0拿下两项全球第一。物理AI方面，第三代酷睿Ultra以大小脑融合的
正文结构化主题已通过公开置信门槛
ENAS：面向资源受限微控制器的硬件感知 TinyML NAS 框架
该论文提出 ENAS，一个面向资源受限微控制器的硬件感知神经架构搜索（NAS）框架，可在无 GPU 环境下运行。ENAS 在 NanoNAS 基础上引入静态可行性检查、支持标准/深度可分离/瓶颈块及可选跳跃连接的 cell 搜索空间，以及随机采样、top-k 选择、局部变异三阶段混合搜索策略，并带跨运行缓存。在 Visual Wake Words 和 Mel
正文结构化主题已通过公开置信门槛
流形投影与迭代自编码器精炼用于掩码语言建模
该论文提出用低秩瓶颈自编码器替代Transformer中的自注意力机制，构建了WindowMixAE、GlobalMixAE和ChannelMixAE三个混合模块，分别处理局部邻域、全序列和注意力头之间的信息混合。在掩码位置预测上，作者引入迭代精炼过程，包含向邻居加权平均拉近的pulling步骤和通过自编码器投影回学习流形的correcting步骤。在C4上