返回主题地图

部署工程

技术方向 · 把模型跑起来的工程实践:推理优化、量化与成本、Serving 架构与可观测性 · 共 3314 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

9月29日周二 · 20 条
正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

ISTA-DASLab 发布 Qwen3.8-Flash-Next 非均匀 GGUF 量化版

ISTA-DASLab 发布了 Qwen3.8-Flash-Next 的 GGUF 量化版本,采用 GSQ 与 RCO 两种方法实现非均匀量化,为每个张量分配不同量化类型。该模型为 512 专家的稀疏 MoE 架构,提供四种尺寸(2.40 至 3.50 bpw),并附带视觉投影器支持多模态。量化文件可在 llama.cpp、Ollama 和 LM Studi

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论产品发布

腾讯 Marvis 定位升级:从 App 到 AI 管家

腾讯旗下操作系统层级个人 AI 管家 Marvis 在上线四个月后宣布完成定位升级,从单一 App 转向「AI 服务直达」,强调 Agent 负责执行、管家负责长期管理用户数字资产的分工。Marvis 推出电脑、文件、软件、浏览器等「管家团队」,其中电脑管家与腾讯内部 IT 团队「8000」共建覆盖 4 大类 27 个场景的 Skill 清单,并计划通过端侧

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11247:Vulkan 后端复用 descriptor sets

llama.cpp 发布 b11247 版本,主要变更是 Vulkan 后端在绑定保持不变时复用 descriptor sets,并在销毁 buffer 前递增 buffer destroy count。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SY

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11245:缓存目录改用 fs::path

llama.cpp 发布 b11245 版本,主要变更是 common 模块改用 fs::path 处理缓存目录,避免 Windows 上无用的字符串转换,并移除 BSD 与 emscripten 的特殊处理。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、O

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

超网络摊销MeanFlow实现3D MRI单步重建

该论文提出一种用于加速3D MRI重建的MeanFlow方法,将数据一致性权重、加速倍数和笛卡尔采样模式整体视为可学习操作点,通过超网络映射到网络的逐通道调制,并端到端经过五步可微共轭梯度投影微调。研究发现学习采集模式带来的增益远大于其他操作点,且单步评估即可超越20步patch-diffusion先验,同时完全采样档案并非必需。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11243:升级 oneAPI 2026.1,SYCL 提示处理提速 3.1 倍

llama.cpp 发布 b11243 版本,主要更新 CI 与构建流程以适配 Intel oneAPI 2026.1 工具包。由于 oneDNN 在 2026.0 起从 Intel Deep Learning Essentials 中移除,项目将 Ubuntu 和 Windows CI 切换到统一的 oneAPI Toolkit 安装器以保留 oneDNN

正文结构化主题已通过公开置信门槛
Latent Space商业

AMD 82亿美元收购World Labs,Atlas解决稀疏重建难题

AMD 以 82 亿美元收购 World Labs,后者由李飞飞创立,专注空间智能。World Labs 近期发布 Atlas 全能模型架构,通过结合生成模型与多视图几何,解决了计算机视觉中长期存在的稀疏重建问题,可预测新相机视角,在机器人仿真、设计、工程等领域有广泛应用。同期 Anthropic 发布 Claude Sonnet 5.5,性能接近 Opus

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Quillan-Ronin v5.4.0-oni 多模态 MoE 模型发布

CrashOverrideX 在 Hugging Face 发布 Quillan-Ronin v5.4.0-oni 模型,这是一个基于 Qwen3.5-0.8B、BitNet-b1.58-2B-4T 和 Llama-3.2-1B-Instruct 合并的多模态 H-NMoE 模型,采用 1.58-bit 三值量化与 34 专家 MoE 架构,面向消费级硬件。

正文结构化主题已通过公开置信门槛
MLX Releases一手来源开源

MLX v0.32.3 发布:修复与性能优化

MLX 发布 v0.32.3 版本,包含大量 bug 修复与性能优化。主要涉及 Metal 和 CUDA 后端的注意力核函数改进(如 GQA、NAX 注意力、D512 向量注意力)、量化矩阵乘法(qmm)修复、流与并发处理、内存与 I/O 优化,以及 Python API 行为调整(如 unstack 返回 tuple、axis 参数可选)。这些改动提升了框

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11242:修复 GCC 15 下 mtmd 溢出问题

llama.cpp 发布 b11242 版本,主要修复了 mtmd 模块在 GCC 15 下 decode embd batch 函数出现的 stringop-overflow 编译警告/错误(#29607)。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、V

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Von 1.3 开源非自回归决策模型发布

Hugging Face 上发布了开源非自回归决策模型 Von 1.3,基于 ModernBERT-large 骨干(395M 参数),通过单次双向前向传播对候选选项打分,无需生成 token 或思维链。1.3 版本在推理引擎中加入 chain-of-options 控制器,可在日期、金额等结构化状态上执行确定性运算,JevBench 困难档准确率从 37.

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

RealRebelAI 发布 Krea-2 GGUF 量化权重

RealRebelAI 在 Hugging Face 发布了 Krea-2 基础模型的 GGUF 量化权重,面向低显存和消费级硬件的 ComfyUI 本地工作流。由于标准 GGUF 节点无法识别 krea2 架构标签,作者同时提供了修改版自定义节点 ComfyUI-GGUF KREA-2,并说明需搭配 Qwen3-VL-4B 文本编码器与 qwen imag

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源模型发布

Grok 4.7 上线 Amazon Bedrock

xAI 的 Grok 4.7 现已在 Amazon Bedrock 上线,该模型面向编程、长时运行智能体和知识工作,支持 500K token 上下文窗口和四档可配置推理强度。据 xAI 称,其采用更大基座模型和更长强化学习训练,自我验证能力增强,Artificial Analysis 独立评测显示智能指数从 44 升至 46、编程智能体指数从 47 升至

正文结构化主题已通过公开置信门槛
Simon Willison's Weblog模型发布

Anthropic 发布 Claude Sonnet 5.5,速度更快成本更低

Anthropic 发布 Claude Sonnet 5.5,官方称其运行速度提升 30% 以上、多数任务成本降低最多 30%,定价与 Sonnet 5 相同但在各项基准上均优于前代。该模型现已成为 claude.ai 免费层所用模型,作者认为其能力明显强于使用 Luna 5.6 的 ChatGPT 免费层。作者还测试了其生成 WebGL 3D 鹈鹕骑自行车

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
TechCrunch AI商业

Modal Labs 拟以 157.5 亿美元估值融资 7.5 亿美元

据知情人士透露,AI 推理基础设施提供商 Modal Labs 即将完成由 Accel 领投的 7.5 亿美元融资,估值达 157.5 亿美元,较四个月前 46.5 亿美元的估值增长两倍多。这轮融资发生在推理服务需求激增、多家推理初创公司(如 Baseten、Fireworks、Fal)也在以更高估值寻求新资金的背景下,但这些公司普遍利润率偏低。Modal

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11238:音频编码器改用 ggml pad ext 左填充

llama.cpp 发布 b11238 版本,主要改动是让 Parakeet、LFM2-Audio、Granite Speech 和 Gemma 4 音频编码器改用 ggml pad ext 在左侧填充,替代此前先右填充再 roll 的做法;DFlash2 也借此将零填充块与前序 token 合并为单个节点。改动后 Gemma 4 音频嵌入保持逐位一致,同时

正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
TechCrunch AI商业

AMD 将以 82 亿美元收购李飞飞的 World Labs

AMD 宣布以 82 亿美元收购李飞飞创办的 World Labs,后者专注开发理解物理现实的深度学习模型。World Labs 创始人李飞飞将加入 AMD 担任执行副总裁兼首席科学家。此举被视为 AMD 在 AI 专用芯片生态上对抗英伟达的重要布局,交易预计年底前完成,尚待监管批准。

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源模型发布

AWS 上推出 Claude Sonnet 5.5

AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上正式可用。该模型定位为更智能高效的 Sonnet 版本,适合聚焦编码与知识工作,在多数任务上成本更低、速度更快,并支持区域数据驻留及 IAM、CloudTrail、CloudWatch、Bedrock Guardrails

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11236:speculative、mtmd 与 server 迁移至 batch ext

llama.cpp 发布 b11236 版本,主要变更是将 speculative、mtmd 和 server 迁移到 batch ext(#29385),并适配 common 模块、新增 common batch、处理 imrope 及 add()/add embd() 返回值、增加零填充警告。该版本同时提供覆盖 macOS/iOS、Linux、Andro