返回主题地图

部署工程

技术方向 · 把模型跑起来的工程实践:推理优化、量化与成本、Serving 架构与可观测性 · 共 3313 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

9月30日周三 · 20 条
正文结构化主题已通过公开置信门槛
Cloudflare AI Blog一手来源产品发布

Cloudflare Containers 重构以扩展 agent 沙箱

Cloudflare 重新架构了 Cloudflare Containers,使其更适合 agent 沙箱工作负载。新调度策略 durable object 允许代码在运行时选择每个沙箱的镜像和实例类型,容器启动速度提升 6 倍以上,中位启动时间从 4 秒多降至 648 毫秒,并推出文件系统快照公开测试版。该更新旨在满足 agent 按需创建、快速启动、暂停

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11284:修复 OpenVINO 量化权重视图 GET ROWS

llama.cpp 发布 b11284 版本,主要修复 OpenVINO 后端对量化权重视图的处理:在收集权重常量时解析 view src,使量化权重的视图不再变成动态类型参数,并将视图的行偏移折叠进 gather 索引,而非切分反量化子图。该改动同时解除了对带非零偏移的量化 src0 视图的 supports op 拒绝,使 #28253 中的 vs0 G

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11279 新增 GLM-5.3-Flash 支持

llama.cpp 发布 b11279 版本,新增对 GLM-5.3-Flash(GLM5-Next)模型的支持,包含 MTP、多流、稀疏 FA 等优化,并修复了 k-pool 布局、状态回滚、GPU 图重分配等多个缺陷。该更新由社区贡献者提交,部分修复由 Claude Opus 5 和 Codex 辅助完成。

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

Qdrant 发布 all-MiniLM-L6-v2 的 ONNX 版本

Qdrant 发布了 sentence-transformers/all-MiniLM-L6-v2 的 ONNX 版本模型,用于文本分类和相似度搜索。该模型采用 apache-2.0 许可,可通过 Qdrant 的 FastEmbed 库直接调用进行推理。此举为需要 ONNX 运行时或轻量级嵌入方案的开发者提供了更便捷的部署选择。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11278:更新 BoringSSL 依赖

llama.cpp 发布 b11278 版本,主要变更是将内置的 BoringSSL 依赖更新至 0.20260929.0(PR #29669)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文结构化主题已通过公开置信门槛
Langfuse Releases一手来源产品发布

Langfuse 发布 v4.48.0:新增会话时间线场景与技能草稿追踪

Langfuse 发布 v4.48.0 版本,新增 seeder 的 incident-session 场景以及 skills 草稿变更追踪与按哈希获取文件内容两项功能,并修复了 Web 端 AI 功能数据提示措辞、元数据徽章裁切、侧边栏标签隐藏等多项界面问题。此外还更新了 Claude Sonnet 5.5、GPT-6.1 Sol 及 GPT-6 Astr

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11277:修复 ggml-zdnn 内存泄漏

llama.cpp 发布 b11277 版本,主要更新为 ggml-zdnn 后端实现缓冲区重置并修复内存泄漏,同时包含代码风格修正。该版本照例提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论产品发布

三张鼠首照片实测:3D AI 进入 Harness 时刻

雷峰网 AI 科技评论用三张圆明园鼠首照片做了一次 3D 生成实测:由 GPT-6 Astra 在 Codex 中理解任务并调度 Aholo Lux3D,先用 G1-Turbo 快速生成 GLB 验证轮廓,再用 G1 生成高质量版本,最后在 Blender 中检查、调材质、加底座并导出场景与三张渲染图。最终鼠首模型约 19.05 万顶点、28.56 万多边形

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11274:ggml 增加 get rows back 行边界检查

llama.cpp 发布 b11274 版本,主要变更是 ggml 在 get rows back 中增加行边界检查(由 Adrien Gallouët 提交,PR #29575)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论产品发布

PixVerse R2攻克实时世界模型Scaling难题

爱诗科技(PixVerse)于2026年1月提出通用实时世界模型方向并推出R1,现已全量上线PixVerse R2,用户可直接在网页端体验动作指令与互动影游交互。R2通过Omni Causal AR(能力引擎)与Real-Time Acceleration(加速引擎)两层架构,将模型容量、数据、任务、控制信号和时间尺度五个维度的Scaling统一,实现更高生

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论观点

Kimi与DeepSeek同框:大模型注意力架构从分流走向重组

文章梳理了大模型注意力机制的演进路径:从全局注意力(Full Attention)到线性注意力(Linear Attention)与稀疏注意力(Sparse Attention)的混合架构。以MiniMax为例,其从Text-01押注Linear、M2回归Full、到M3转向自研MiniMax Sparse Attention(MSA),反映了不同阶段约束的

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11273 为 reranker 新增 classifier pooling 支持

llama.cpp 发布 b11273 版本,主要新增对 reranker 模型 classifier pooling 的支持,首先适配 ModernBERT reranker。改动包括在 load hparams 中读取 classifier pooling 类型、转换脚本仅接受 cls 和 mean 两种取值,并将 classifier pooling

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11272 发布:优化 Hexagon concat 算子

llama.cpp 发布 b11272 版本,主要针对 Hexagon NPU 后端优化了 concat 算子,包括在 gather/transpose 热循环中减少数据包、直接写入目标缓冲区并使用专用指令同步,以及用 fastdiv 替换慢速除法、优化 DMA-HVX 流水线并新增 transpose 辅助函数。该版本同时提供覆盖 macOS、Linux、

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

制品提升控制模型:构建一次并提升制品的实施案例研究

论文提出「制品提升控制模型」(Artifact Promotion Control Model),主张软件只构建一次,然后将同一构建产物依次提升到测试和生产环境,而非在每台目标服务器上重复构建。第一部分以更严格的形式重述该模型,涉及发布对象、控制域、制品与环境身份区分、源码控制被攻破及监管控制要求;第二部分是某生产级 Web 应用在 AWS 上的匿名实施案例

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

LLM 引导的本体驱动知识图谱构建

法国 IRT SystemX 的研究者提出并评估了一套本体驱动的知识图谱构建流水线,结合开源大语言模型与可复用提示策略,从非结构化文本中抽取实体和关系、生成 RDF 三元组、构建并丰富 OWL 本体,最终生成知识图谱。该研究在 80 份人工标注的法国电网事故报告私有语料上测试了 7B 至 32B 参数的开源模型,发现模式引导提示能显著提升抽取质量,量化模型在

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

基于叠加原理的Transformer神经算子提升端壁气膜冷却预测泛化能力

研究提出一种物理增强的神经算子框架 SDNO,用于预测涡轮端壁气膜冷却温度场。该方法受气膜冷却叠加原理启发,将预测分为两阶段:Calculate Net 用 Transformer 神经算子预测各子区域温度场,Super Net 将其组合为完整布局的叠加温度场,并用符号距离函数编码气孔位置。模型仅在 1-5 个气孔样本上训练,却能泛化预测 10-20 个未见

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

OMP-MoE:基于正交匹配追踪的 MoE 大模型高效专家剪枝

该论文提出 OMP-MoE,一种无需训练的 MoE 大模型专家剪枝框架,将专家剪枝重构为稀疏信号重建问题,用正交匹配追踪(OMP)贪心选择专家,把搜索复杂度从指数级降到线性。方法还引入注水策略进行跨层专家预算分配,并提出自适应推理机制 OMP-MoE†。在 Qwen、DeepSeek-V2、GPT-OSS、Mixtral 上,25-50% 剪枝率下性能一致优

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11270:优化 HIP 打包字节减法

llama.cpp 发布 b11270 版本,主要变更是 ggml-cuda 后端针对 HIP 平台优化了打包字节减法运算,将 vsubss4 替换为非饱和的 vsub4,并在 CI 中忽略 fattn vec 中一个溢出的 vgpr。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CUDA、ROCm、V

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

什么让世界动作模型泛化?测试时未来建模实证研究

该论文研究世界动作模型(WAMs)的泛化能力,发现隐式WAMs虽在分布内任务上与显式WAMs相当,但在环境扰动、数据效率和任务泛化三个维度上均出现退化。分析表明差距几乎完全来自第一个去噪步骤,收益源于“准备未来”而非“生成未来”。作者提出Simple-WAM,将未来建模简化为对完全加噪视频token的单次前向传播,并调整训练噪声调度,在仿真和真实任务中兼顾泛

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11269:CI 新增 zdnn 后端构建

llama.cpp 发布 b11269 版本,主要变更为在 CI 中新增 zdnn 后端构建(仅构建、不测试),并修复 ggml-zdnn 的编译错误、尝试使用 Ubuntu 26.04 容器及忽略 vendored 文件的警告。该版本同时提供 macOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、RO