返回主题地图

部署工程

技术方向 · 把模型跑起来的工程实践:推理优化、量化与成本、Serving 架构与可观测性 · 共 3343 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

8月6日周四 · 9 条
正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

mmMind:姿态引导的毫米波雷达行为理解模型

arXiv 论文提出 mmMind,一种雷达-语言模型,利用同步 3D 姿态作为训练监督,使基础模型能理解毫米波雷达数据。该模型通过姿态引导预训练学习人体结构和运动,推理时仅需雷达输入,并用于行为描述和时空问答。作者还发布了包含 17.9 小时真实数据的 mmMind-Bench 基准,实验表明 mmMind 在多个任务上优于现有基线。

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

HELENA:基于互补拓扑联合的分层稀疏协调多智能体框架

arXiv 上发布了一篇关于多智能体系统的新论文,提出了 HELENA 框架。该框架通过蒙特卡洛树搜索和行列式点过程选择互补拓扑,构建联合图,并利用分层稀疏协调模块在每一步仅激活稀疏子图,以抑制冗余噪声传播。实验表明,HELENA 在八个基准测试上均达到最先进水平,平均提升 3.47%,在 MMLU-Pro 上提升高达 10.34%。

正文结构化主题已通过公开置信门槛
DeepSpeed Releases一手来源产品发布

DeepSpeed v0.19.4 补丁发布:多项修复与增强

DeepSpeed 发布了 v0.19.4 补丁版本,包含多项修复和改进,涉及 ZeRO 优化、AutoTP、MoE 路由、学习率调度器、梯度累积等。该版本增强了 ZeRO-3 推理、AutoTP 的 HuggingFace 支持,并修复了多个 bug,提升了稳定性和性能。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10290 发布:新增 ggml build forward order 修复音频图问题

llama.cpp 发布 b10290 版本,新增 ggml build forward order 函数,用于在计算图中插入节点而不设置计算标志,以解决 mtmd 音频图中 GEN WAV 调用因陈旧输入触发断言的问题。该版本提供了多平台二进制文件,包括 macOS、Linux、Windows、Android 等。

正文结构化主题已通过公开置信门槛
Vercel AI SDK Releases一手来源产品发布

Vercel AI SDK 7.0.54 发布:增强工具循环与指令中间件

Vercel AI SDK 发布 7.0.54 版本,主要包含三项更新:允许 ToolLoopAgent 的 prepareCall 回调读取并覆盖顶层 reasoning 选项;新增 defaultInstructionsMiddleware 用于应用默认语言模型指令并保留调用级覆盖;在重新生成响应时保留前序助手消息。

正文结构化主题已通过公开置信门槛
Apple Machine Learning Research一手来源研究

DLR-Lock:通过深度低秩残差蒸馏锁定预训练权重

Apple 与东京大学的研究者提出 DLR-Lock 方法,通过将预训练模型中的 MLP 替换为深度低秩残差网络(DLR-Net),利用自动微分的推理-训练不对称性,增加微调时的激活内存和计算开销,从而阻止未经授权的权重修改。该方法在保持模型能力的同时,能抵御完全了解防御策略的自适应攻击者。该论文已被 ICML 2024 的 Efficient System

正文结构化主题已通过公开置信门槛
Simon Willison's Weblog模型发布

Meta 发布 Muse Code 和 Muse Spark 1.2 编码模型

Meta 发布了 Muse Code 和 Muse Spark 1.2,后者是面向编码的模型更新,提升了代码生成、调试和代码库理解能力,并支持长序列智能体工具调用。模型提供两种定价选项,其中 contributor 版本通过允许数据使用大幅降价。

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10289 发布:强化文件搜索与路径处理

llama.cpp 发布 b10289 版本,主要强化了 server 的文件搜索功能,包括修复 Windows 符号链接和挂载点遍历问题、处理不可读目录、优化路径转换,并改进了 UI 缓存过期机制。该版本还提供了多平台二进制下载。

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源产品发布

Mobileye 借助 Amazon Bedrock AgentCore 实现支持运营转型

Mobileye 利用 Amazon Bedrock AgentCore 部署了 AI 支持代理,将响应时间缩短了 90%,准确率超过 95%,且无需管理基础设施。该代理通过 MCP 协议实时访问数据处理平台 API,解决了内部工单查询瓶颈。Mobileye 还将 AgentCore 转化为自服务平台,供公司内部团队部署自己的 AI 代理。

8月5日周三 · 11 条
正文结构化主题已通过公开置信门槛
Anthropic Status History一手来源产品发布

Claude Opus 5 性能降级事件已解决

Anthropic 报告 Claude Opus 5 出现性能降级,影响 claude.ai、Claude API、Claude Code 和 Claude Cowork。团队已定位到错误原因并正在修复,目前事件已解决。

正文结构化主题已通过公开置信门槛
Anthropic Status History一手来源产品发布

Anthropic 多款 Claude 模型性能下降已修复

Anthropic 报告其多个 Claude 模型(包括 Claude Mythos 5、Claude Fable 5、Claude Opus 5 和 Claude Sonnet 5)出现性能下降,导致 API 请求错误率升高。该事件影响了 claude.ai、Claude API、Claude Code 和 Claude Cowork 等产品。团队已定位原

正文结构化主题已通过公开置信门槛
Langfuse Releases一手来源产品发布

Langfuse v3.225.1 修复 Unicode 转义解码问题

Langfuse 发布了 v3.225.1 版本,主要修复了客户端 trace 下载和复制时 Unicode 转义字符未正确解码的问题。该修复由开发者 bezbac 提交,通过 PR #15801 合并。此版本为补丁更新,无新增功能。

正文结构化主题已通过公开置信门槛
LiteLLM Releases一手来源产品发布

LiteLLM v1.97.0-dev.1 发布:Docker 镜像签名验证及多项功能更新

LiteLLM 发布了 v1.97.0-dev.1 版本,该版本的所有 Docker 镜像均使用 cosign 签名,并提供了通过提交哈希或发布标签进行验证的方法。更新内容涵盖多项功能改进和修复,包括支持 Cursor 模型名称后缀、团队回调日志修复、JWT 认证用户邮箱回填、Playground 非流式响应切换、MCP 服务器组件重命名、Rubrik 护栏

正文结构化主题已通过公开置信门槛
PydanticAI Releases一手来源产品发布

PydanticAI v2.24.0 发布:多项提供商兼容性修复

PydanticAI 发布 v2.24.0 版本,主要包含多项 bug 修复,涉及 Google、Bedrock、OpenRouter、Groq 等提供商,以及 AG-UI 协议兼容性改进。修复了 Google 提供商超时参数、Bedrock 流处理、Kimi 推理模型识别等问题,并新增了对 Groq 复合模型名称的支持。

正文结构化主题已通过公开置信门槛
Latent Space研究

Megakernels 争议与多模型发布:AI 新闻综述

Latent Space 的 AINews 报道了关于 Megakernels 的讨论,认为其因复杂性和硬件变化而失去优势,但 Cursor 开源了 Megakernel 并宣称提升 41% 吞吐量。同时,Qwen 发布 Qwen3.8-Max,NVIDIA 和 Mistral 推出 Alpamayo 2 Super 和 Shieldstral,Pokee-

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10276 发布:安全改进与多平台支持

llama.cpp 发布 b10276 版本,主要变更是在构建过程中优先使用 npm ci 而非 npm install 以增强安全性。该版本提供了适用于 macOS、Linux、Windows、Android 和 iOS 的多种预编译二进制文件,支持 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 等后端。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10275 发布:修复 Windows OEM 输出解码问题

llama.cpp 发布 b10275 版本,主要修复了内置工具中 Windows OEM 输出解码为 UTF-8 的问题,确保子进程输出在 JSON 层正确显示,避免字符丢失。该版本提供了多平台(macOS、Linux、Windows、Android 等)的预编译二进制文件。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10274 发布:修复短输入音频块重复问题

llama.cpp 发布 b10274 版本,主要修复了短输入时重复空音频块的问题。该版本提供了适用于 macOS、Linux、Windows、Android 和 iOS 的多种预编译二进制文件,支持 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 等后端。

正文结构化主题已通过公开置信门槛
Anthropic Status History一手来源产品发布

Anthropic 多模型错误率升高已解决

Anthropic 报告其多个模型出现错误率升高的问题,影响用户登录 Claude.ai 和通过 oAuth 登录 Claude Code,以及部分模型请求报错。目前问题已解决,团队正在密切监控以防再次发生。

正文结构化主题已通过公开置信门槛
The Verge AI商业

SpaceX AI 收入激增三倍,但亏损持续

SpaceX 的 AI 收入同比增长超过三倍,达到 26 亿美元,主要来自向 Anthropic 和 Google 等公司提供算力的交易。尽管 AI 部门本季度亏损 15 亿美元,但整体亏损收窄至 1.43 亿美元。公司资本支出达 183.7 亿美元,主要用于建设 AI 算力,同时 Starship 的开发推高了太空部门成本。马斯克表示 SpaceX 正在以