返回主题地图

部署工程

技术方向 · 把模型跑起来的工程实践:推理优化、量化与成本、Serving 架构与可观测性 · 共 1715 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

9月18日周五 · 9 条
正文结构化主题已通过公开置信门槛
量子位商业

具身智能技术路线未定,基础设施先收敛

在2026智能经济论坛上,百度集团执行副总裁沈抖提出智能体能力边界快速打开、开始进入规模化部署的判断。文章指出,具身智能本体已批量落地,但能力量产仍缺基础设施,百度智能云通过百舸AI计算平台、东莞具身智能训练场等,为超过50家具身企业提供从数据、训练、仿真到推理部署的全栈支持。IDC和Omdia报告显示百度智能云以29.55%份额位居中国具身智能云市场第一。

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源产品发布

AWS 推出 SageMaker HyperPod 推理网关

AWS 发布 Amazon SageMaker HyperPod Inference Gateway,这是一个以 EKS 托管插件形式部署的 Kubernetes 原生、GPU 感知推理路由系统。它通过 Envoy Gateway、Body-Based Router 和 Endpoint Picker 三层组件,利用 KV 缓存利用率、队列深度、LoRA 适

正文结构化主题已通过公开置信门槛
Mem0 Releases一手来源产品发布

Mem0 发布 Pi Agent 插件 v0.3.1,修复遥测问题

Mem0 发布 Pi Agent 插件 v0.3.1,主要改进遥测功能。事件不再重复投递、不再丢失暂存事件,并能将每个事件归属到产生它的插件;plugin version 字段反映该修复版本。

正文结构化主题已通过公开置信门槛
InfoQ AI ML and Data Engineering教程

构建安全可扩展的人脸验证系统架构

文章基于一个面向15万活跃用户的企业级人脸验证系统部署经验,指出人脸验证应被视为分布式系统挑战而非简单API集成。作者描述了上线首日因3000名员工同时打卡导致同步调用崩溃的教训,并提出分层参考架构:客户端边缘智能做数据质量校验、异步队列与熔断器解耦检测与验证、零信任令牌化替代原始PII、基于风险的动态阈值决策引擎。该架构在早高峰窗口支撑每分钟8500次请求

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论商业

拆解智谱50亿美元融资的技术账本

智谱于9月13日晚间公告完成约50亿美元融资,包含约20亿美元股份配售及约30亿美元可转债发行,资金主要投向模型研发与算力基础设施。文章梳理了智谱从GLM-4.6到GLM-5.3约两个月一次的迭代节奏,以及上半年收入9.54亿元、同比增长399.7%的商业化进展,并分析其下一代GLM研发、完全自训练(Fully Self-Training)路线与国产算力布局

正文结构化主题已通过公开置信门槛
阿里 FunASR Releases一手来源开源

FunASR 1.4.16 发布:修复混合设备推理并新增 Transformers 指南

阿里 FunASR 发布 1.4.16 版本,重点修复混合设备推理管线的配置传播问题,确保 vad kwargs、punc kwargs、spk kwargs 的设备放置不会在重复推理中被运行时 device 覆盖所改变。同时新增原生 Transformers 接入指南(中英文),并澄清 SenseVoiceSmall 与 Paraformer 何时需要 C

正文结构化主题已通过公开置信门槛
Vercel AI SDK Releases一手来源开源

Vercel AI SDK 发布 ai@6.0.286 修复流式处理问题

Vercel AI SDK 发布 ai@6.0.286 补丁版本,集中修复了流式处理相关的多个问题,包括模拟文本流时保留 provider 元数据、在流式步骤结果中报告 prepareStep 模型、防止 UI 消息流提前停止时出现未处理的 rejection、保留待审批工具调用、在模型调用中止或超时时取消提示附件下载、流式输出 null 和空字符串 JSO

正文结构化主题已通过公开置信门槛
Gemini API Release Notes一手来源API 更新

Gemini 2.5 模型限制访问,新项目需改用 3.5/3.8

Google 在 Gemini API 发布说明中宣布,为保证服务稳定性,将 Gemini 2.5 系列模型的访问权限限制为过去曾活跃使用过这些模型的用户。这些模型并未被弃用,仍会继续通过 API 提供服务,但新项目需改用最新的 3.5 Flash-Lite 或 3.8 Flash。此举旨在为存量工作流和新应用保留足够容量。

正文结构化主题已通过公开置信门槛
TechCrunch AI商业

Crusoe 融资 39 亿美元,估值达 309 亿,建模块化 AI 工厂

数据中心开发商 Crusoe 完成 39 亿美元 F 轮融资,估值升至 309 亿美元,由 Atreides Management、Mubadala Capital 和 Valor Equity Partners 联合领投,英伟达、Founders Fund、GIC、QIA、TPG 等参投。资金将用于现有数据中心项目(包括得州 Abilene 为 OpenA

9月17日周四 · 5 条
正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源教程

基于 Amazon Quick Sight 的无服务器 Git 指标仪表盘

AWS 博客介绍了一种基于 Amazon Quick Sight 的无服务器、数据驱动的 Git 指标仪表盘方案,可自动从 GitHub 和 GitLab 采集仓库指标。方案采用事件驱动流水线,结合 EventBridge Scheduler、Step Functions、Lambda、Secrets Manager 和 S3,实现变更检测、自适应分块、全量

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论产品发布

华为发布Peerium计算架构:百万处理器成为一台计算机

华为在上海发布AI时代全新计算架构Peerium,宣称通过嵌套并行、统一内存寻址和平等互联,实现百万级处理器成为一台计算机。该架构突破图灵范式与冯·诺依曼单机架构,关键互联技术为开放协议灵衢。首代产品Atlas 950超节点已部署25.6万卡集群,基于NPO的Atlas 960系统正在测试中。

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论商业

蚂蚁集团全员接入千问办公,打造大型企业办公标杆

蚂蚁集团于9月17日正式接入千问办公,将其作为全公司智能办公Agent底座供数万员工使用。合作采用K8S私有化部署,运行于蚂蚁内网,支持自有模型接入,确保数据不出域、日志可审计。千问办公上线仅一个月用户数突破3000万,企业用户占比过半,已接入长安汽车、中集安瑞科、汇付天下、传化集团、老乡鸡等头部企业。

正文结构化主题已通过公开置信门槛
DeepSpeed Releases一手来源开源

DeepSpeed 发布 v0.19.7 补丁版本

DeepSpeed 发布 v0.19.7 补丁版本,包含大量修复与改进,涉及 ZeRO 检查点导出 dtype 可配置、AutoTP/AutoEP 相关修复、Triton 注意力路径清理、CPU Adam 的 ARM SVE 内核、macOS MPS CI 支持等。该版本主要提升训练框架的稳定性与兼容性,并新增若干可选优化路径。

正文结构化主题已通过公开置信门槛
9月16日周三 · 6 条
正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源产品发布

用 Amazon Bedrock AgentCore 优化智能体系统提示

AWS 在 Amazon Bedrock AgentCore 中推出系统提示优化器(system prompt optimizer),利用 AgentCore Observability 记录的生产轨迹和奖励信号,由 agentic reflector 分析成功与失败模式并生成改进后的系统提示。该优化器提供 Single Agent Reflector 和实

正文结构化主题已通过公开置信门槛
Latent Space模型发布

TypeSafe 发布 Jev 决策模型:比小型前沿 LLM 快 100 倍、便宜 200 倍

TypeSafe 发布 Jev,一种被称为“System One Model”的决策模型,只负责决定、分类、路由和打分,不做文本生成,据称比小型前沿 LLM 快 100 倍以上、便宜 200 倍以上。该模型通过 RLCD(校准决策)训练,强调并行采样、无幻觉和校准能力,被定位为对慢速“System Two”LLM 的补充。社区讨论认为它更适合替代生产系统中的

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

DeepBeepMeep 发布 LTX-2 视频模型,WanGP 工具支持低显存生成

DeepBeepMeep 发布了 LTX-2 视频模型,用于其 WanGP 工具,该工具支持多种开源视频生成模型,包括 Wan、Hunyuan Video、Flux 1 & 2、Qwen、Z-Image 和 LTV。WanGP 旨在降低视频生成的硬件门槛,支持低至 6GB 显存和旧款 GPU,并提供 Web 界面、自动下载模型、Lora 支持等功能。

正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b10996:为 qwen3-coder 强制推理预算结束标签

llama.cpp 发布 b10996 版本,主要变更是针对 qwen3-coder 在推理预算结束时强制输出 \n 标签。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台多后端的预编译二进制文件,包括 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等加速方案。

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论商业

基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用

2026年9月15日,AI基础设施公司基元律动(TokenRhythm)与无问芯穹(Infinigence AI)签署战略合作协议,双方将结合无问芯穹的Agentic Infra产品及服务体系与基元律动的多模型服务、智能路由能力,围绕高质量Token的供给、调度与应用展开合作。基元律动已首发接入Qwen-3.8-Max及牛来(GLM-5.3-Flash),双

另有 1 家信源报道