返回主题地图

部署工程

技术方向 · 把模型跑起来的工程实践:推理优化、量化与成本、Serving 架构与可观测性 · 共 3339 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

8月24日周一 · 20 条
正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10608 发布:修复视频 moov atom 解析问题

llama.cpp 发布 b10608 版本,主要修复了视频处理中 moov atom 位于文件末尾时的解析问题,并处理了 SIGPIPE 信号及 Windows 下的管道中断情况。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件,支持 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYC

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10606 发布:修复 ggml clamp 并更新分配器

llama.cpp 发布 b10606 版本,主要修复了 ggml clamp 函数并更新了 ggml-alloc。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件,支持多种硬件后端。

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论商业

燧原科技启动科创板发行,募资60亿推进AI芯片产业化

燧原科技于8月24日启动科创板发行,股票代码688801,拟募资60亿元用于第五、六代AI芯片研发及产业化等项目。公司自研四代架构、五款云端AI芯片,2023-2025年营收复合增长率达81.32%,2026年上半年营收11.2亿元,预计2026年或2027年实现盈利。此次上市有望加速国产算力产业链发展。

正文结构化主题已通过公开置信门槛
THE DECODER产品发布

Cerebras 发布 CS-4 加速器,性能翻倍

Cerebras 发布了 CS-4 AI 加速器,基于 5nm WSE-3 芯片,通过提升时钟速度和增强冷却,性能达到 CS-3 的两倍。单个机架可容纳三个晶圆,每个用户每秒可处理 4400 个 token,据称比 Nvidia GPU 快 30 倍。CS-4 采用模块化 'Backpack' 设计,并通过 AMD 和 AWS Trainium 等合作伙伴实

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10605 发布:优化 mamba2 投影层性能

llama.cpp 发布 b10605 版本,主要更新是优化了 mamba2 架构中的投影层,通过展平输入/输出投影以使用 GEMM 而非 GEMV,从而提升性能。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。

正文结构化主题已通过公开置信门槛
Anthropic Status History一手来源产品发布

Anthropic 多款 Claude 模型出现错误率升高,现已解决

Anthropic 报告其多个 Claude 模型(包括 Claude Opus 5、Fable 5、Mythos 5 和 Opus 4.8)出现错误率升高的问题,影响 claude.ai、Claude API、Claude Code 和 Claude Cowork。问题从太平洋时间晚上 9:50 开始,持续至次日凌晨 00:36,现已解决。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10604 发布,新增 DeepSeek 4 张量并行支持

llama.cpp 发布 b10604 版本,主要新增对 DeepSeek 4 的 tensor 并行支持,包括共享专家延迟 allreduce 等优化。该版本提供多平台二进制文件,涵盖 macOS、Linux、Windows、Android 等,并支持多种硬件后端。

正文结构化主题已通过公开置信门槛
量子位产品发布

中诚华隆发布HL200推理芯片及万卡超节点集群

中诚华隆在北京发布HL200推理芯片及超节点智算集群方案,实现从单芯片到万卡集群的体系化突破。HL200支持FP4/FP8超低精度推理,能效比达5.12 TFLOPS/W,兼容主流技术栈,并在DeepSeek V4等模型测试中性能领先。公司同时与多家企业达成战略合作,推动国产推理算力生态建设。

正文结构化主题已通过公开置信门槛
量子位模型发布

阿里视频大模型Wan3.0正式上线,获评稳定真实有质感

阿里巴巴于8月24日正式上线视频生成大模型Wan3.0,该模型在生成时长、文档输入、真实世界还原等方面全面升级,单次可生成30秒视频,并支持多种文档格式。行业评价其“稳定、真实、有质感”,已进入企业生产流程,用于短剧、影视、广告等场景。即日起用户可在多个平台体验,阿里云百炼和千问AI平台提供限时7折优惠。

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Qwen3.6-27B PrismaSCOUT 量化版发布:NVFP4+BF16 混合精度,体积缩小 11%

Hugging Face 上发布了 Qwen3.6-27B 的 PrismaSCOUT 量化版本,采用 NVFP4+BF16 混合精度,大小为 20.17 GB,比之前的 5.5 bpp 版本小 11%。该版本通过 PrismaSCOUT 算法基于端到端 KL 散度选择位分配,而非逐层代理指标,旨在减少量化漂移。实测平均 KL 为 0.0779,相比其 BF

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

Meta 部署安全实践:持续变更安全的健康检查

Meta 在 arXiv 发表论文,介绍其部署时健康检查基础设施 Service Health Checker (SHC),用于在数千个异构服务的持续部署中平衡发布速度与可靠性。SHC 通过模板化指标查询、阈值和工作流谓词,与分层和分阶段发布集成,在回归时自动回滚。论文还讨论了规模化运营中出现的噪声、告警疲劳、漂移和未覆盖回归等问题,以及应对措施和未来方向,

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

超越原始转录:基于LLM的数字孪生的结构化人物提取

本研究探讨了基于LLM的数字孪生中人物信息结构化的影响,提出固定BDE结构在同类任务上优于原始转录,但在异构任务上效果不佳。为此,作者提出自动结构发现流程,在13个多样化子研究中恢复性能,表明关键限制在于信息组织方式而非信息量。

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

BF1:用于高效长上下文 Transformer 的因果二进稀疏注意力改造

BF1 是一种确定性的块对齐二进稀疏注意力机制,结合局部邻域、全局首块和对数间隔历史块,实现 O(n log n) 交互和 O(log n) 通信深度。在 NVIDIA RTX PRO 6000 Blackwell GPU 上,BF1 在 32K 上下文下实现每层 10.91 倍加速,并将 Qwen3-0.6B 模型的首 token 时间降低 15.3%。在

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

RISE:面向世界动作模型的自适应想象框架

RISE 提出了一种自适应想象框架,通过选择性展开(Selective Rollout)动态决定世界动作模型(WAM)的推理深度,以平衡规划性能与计算成本。该方法在 NAVSIM 和 nuScenes 数据集上取得了最优规划性能,并减少了不必要的展开。此外,研究团队构建了反事实数据集 CounterDrive,以增强安全关键场景的未来动态预测。

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

huihui-ai 发布 Qwen3.8-27B 无审查版本

huihui-ai 发布了基于 Qwen3.8-27B 的 uncensored 版本模型,通过 abliteration 技术移除模型的拒绝机制,仅对第 18 至 51 层进行消融,以保留更多原始性能。该模型支持通过 Hugging Face transformers 库和 Ollama 使用,旨在提供无审查的对话体验。

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论模型发布

阿里视频大模型Wan3.0正式上线,主打稳定真实有质感

阿里巴巴于8月24日正式上线视频生成大模型Wan3.0,支持单次生成30秒视频及多种文档格式输入,在生成时长、真实世界还原等维度升级。企业用户反馈其表现稳定、真实、有质感,已进入短剧、影视、广告等生产流程。即日起可通过阿里云百炼等平台体验,并推出限时7折优惠。

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
Groq Blog一手来源产品发布

Groq率先部署NVIDIA Groq 3 LPX与Vera Rubin NVL72

Groq宣布将成为首批采用NVIDIA Groq 3 LPX和Vera Rubin NVL72的公司,以提升其AI推理云性能。该平台在基准测试中实现每秒3400个输出令牌,显著加速代理工作负载。Groq与Dell Technologies合作部署,旨在为全球开发者和企业提供大规模推理服务。

正文结构化主题已通过公开置信门槛
Simon Willison's Weblog商业

Anthropic最强模型因成本高企难获青睐,OpenAI收入增长35%

据FT报道,Anthropic的7月年化收入达650亿美元,预计Q3盈利,拥有6000个年消费10万美元以上的客户。但其最强模型Fable 5因成本高昂,在Ramp AI指数中仅占8.0%的模型支出份额,低于Opus 4.8的28.0%。OpenAI年化收入季度内增长35%,突破400亿美元,得益于GPT 5.6的发布。

正文结构化主题已通过公开置信门槛
TechCrunch AI产品发布

神秘AI模型Ox Alpha引发猜测:背后开发者是谁?

一个名为 Ox Alpha 的神秘新 AI 模型在 OpenRouter 上发布,引发互联网对其背后开发者的广泛猜测。该模型被描述为专为编码、持续代理工作和生产负载设计的推理模型,Stripe CEO Patrick Collison 对其表示赞赏。目前其开发者身份匿名,外界猜测涉及中国公司 Z.ai 的 GLM 模型或微软未发布的 MAI 模型,但尚无定论

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源产品发布

llama.cpp b10603 发布:支持 GLM-4.5-Air 多 token 预测

llama.cpp 发布 b10603 版本,新增对 GLM-4.5-Air 模型的多 token 预测(MTP)支持。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件,涵盖 CPU、Vulkan、CUDA、ROCm 等多种后端。