vLLM v0.33.0 发布:新增多模型支持与解码加速
vLLM 发布 v0.33.0,包含来自 389 位贡献者的 927 个提交。该版本新增 Reflection Beam-1.0、Yandex AliceAI-Foundation-80B-A3B、Step-5 Preview 等多个模型支持,升级至 PyTorch 2.14 并放弃 CUDA 12.9,同时引入 XPress、FLy 等投机解码优化及 GB
产业与政策 · 加速卡、算力供给与硬件供应链 · 共 623 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
vLLM 发布 v0.33.0,包含来自 389 位贡献者的 927 个提交。该版本新增 Reflection Beam-1.0、Yandex AliceAI-Foundation-80B-A3B、Step-5 Preview 等多个模型支持,升级至 PyTorch 2.14 并放弃 CUDA 12.9,同时引入 XPress、FLy 等投机解码优化及 GB
llama.cpp 发布 b12034 版本,主要修复 WebGPU 后端的 CI 问题:此前 flash attention vec 路径与 MMVQ 路径会在 dst 之后追加 scratch 区域,但 get alloc size 仅在该批次走对应路径时计入该开销,导致分配尺寸对 batch 长度不单调,在 GGML SCHED NO REALLOC
雷峰网AI科技评论报道了2026年全球AI新云(NeoCloud)产业图谱,将CoreWeave、Nebius、Lambda、Together AI、九章云极DataCanvas等厂商按GPUaaS、GPUaaS+MaaS、AI Engineering三条路径分层。文章指出行业评估标准已从算力规模转向TCO、训推交付稳定性、Token服务效率和AI基础设施工
Meta与中国机器人公司傅利叶合作,仅用3个月打造出人形机器人原型Max,并已开始开发第二代产品Max 2。Max身高约1.5米,搭载英伟达Jetson Thor芯片,面向家庭交互场景,被视为Meta个人Agent产品Muse的实体化形态。Meta同时在上海、深圳招聘制造相关岗位,推进机器人从原型走向量产,但人形机器人赛道竞争已明显升温。
llama.cpp 发布 b12032 版本,主要变更是 SYCL 后端尝试通过 PkgConfig 查找 LevelZero 的头文件与库。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于构建与后端适配层面的维护性发布,
llama.cpp 发布 b12031 版本,为 OpenCL 后端新增对 IQ3 S 和 IQ3 XXS 两种量化格式的初步支持,涵盖 AOS/SOA 矩阵向量乘、tiled matmul、Adreno GPU 上的 noshuffle GEMM/GEMV 与 dp4a 路径,并针对 Adreno 解码和窄批次做了优化。该改动由高通工程师参与贡献,部分代码
llama.cpp 发布 b12030 版本,修复了 Hexagon 后端在 v75+ 硬件上 DMA 传输的缺陷:2D DMA 描述符仅用 24 位存储 row size 和 stride,导致 16MB 及以上的 stride 被截断、地址错误。修复方式是在该情况下回退为逐行传输,并重构了回退路径以消除重复代码,同时新增两个 stride 超过 16MB
llama.cpp 发布 b12027 版本,主要变更为 LFM3 启用 tensor split(张量切分),该改动由 Claude Opus 5.5 辅助完成。发布包覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台,包含 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdrago
The Verge 记者花 50 美元购买 Waveshare ESP32-S3 开发套件,借助 Claude Code 将其改造成可对话、带虚拟宠物养成玩法的 AI 吊坠,功能上对标 Meta 即将推出的 Muse Charm。文章指出 Meta 官方 Muse Gadget 方案存在响应慢、无语音输出、功能单一等问题,但作者也表达了对 Meta 隐私安全
llama.cpp 发布 b12020 版本,主要变更是为 OpenCL 后端新增 FWHT(快速沃尔什-哈达玛变换)支持,由高通工程师参与贡献。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL A
X 博主 @mylifcc 发帖指出,2024 年发布的 M4 iPad Pro 低配版主板上实际焊有两颗合计 12GB 的美光内存颗粒,但系统仅开放 8GB 可用内存,质疑苹果为维持高配版溢价而闲置硬件容量。该帖浏览量破两百万,并重新引发对 2024 年 5 月拆机发现的讨论。文章还提到,苹果新一代 Siri AI 的部分端侧功能要求 M4 或更新芯片加至
英伟达正洽谈为AI云服务商Nscale在西弗吉尼亚州的Anthropic数据中心提供数十亿美元债务融资担保,形式为残值担保,若Nscale违约英伟达将临时接管设施并协助寻找买家。Anthropic已为该项目首栋建筑签署446亿美元合同,该建筑预计采用英伟达下一代Vera Rubin芯片。此举反映AI行业在投资者对巨额资金日益不安之际竭力维持建设计划,也加深了
英特尔发布不及预期的第四季度业绩指引后,股价周五暴跌约28%,导致美国政府所持10%股份的价值缩水120亿美元。英特尔将PC销售放缓归因于AI行业大量占用内存等零部件、推高PC价格,同时警告毛利率将从43%降至37%且自由现金流为负。亮点是数据中心业务同比增长78%,但受限于晶圆厂产能扩张,亚利桑那州新厂要到2028年才能上线。
NVIDIA 发布技术博客,介绍如何通过 NVIDIA AI Cluster Runtime(AICR)在 Kubernetes 上部署并验证 NVIDIA Dynamo 分布式推理框架。AICR 将 Dynamo 及其依赖的 GPU Operator、DRA 驱动、KAI Scheduler、Grove、Prometheus 等基础设施打包为带版本锁定和校
Google 宣布其搭载 TPU 的 Project Suncatcher 卫星在轨成功启动 Tensor Processing Units,使星载 Gemma 4 模型完成生成太空主题俳句等提示任务,并传回首个响应。Google 表示下一步将测试 TPU 在轨道热应力和辐射暴露下的表现,验证其在太空可靠执行工作负载,为 2027 年双星互联里程碑铺路。
Google 的 Suncatcher 太空数据中心原型卫星已上线并与地面通信,该卫星搭载一颗 TPU、发电功率最高 1 kW,并预载了 Google DeepMind 的 Gemma 4 模型,首次提示词要求其写一首关于太空的俳句。由于 TPU 功耗限制,它每次只能开机约二十分钟,增加了天地通信难度。后续测试将评估芯片在热应力和太空辐射环境下的表现;若验证
llama.cpp 发布 b12007 版本,核心改动是将 KV-cache 的旋转常量保留在 GPU 上,并支持按层分配旋转缓冲区,同时修复了混合 SWA 旋转输入与混合放置检查的问题。该改动在 mistral-large4 和 dflash 模型上启用按层旋转,并补充了多设备旋转的剩余工作文档。发布同时提供 macOS、Linux、Windows、And
llama.cpp 发布 b12005 版本,为 OpenCL 后端新增 q2 0 量化格式的初步支持,包含 AOS/SOA 矩阵向量乘、分块矩阵乘、面向 Adreno GPU 的 noshuffle GEMM/GEMV 与 dp4a 实现,并优化了 Adreno 上的解码与小批量场景。该版本同时提供覆盖 macOS、Linux、Windows、Androi
llama.cpp 发布 b12003 版本,主要修复了 SYCL 后端 FLASH ATTN EXT 失败的问题(#30761)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于开源推理框架的常规构建发布,影响使用 SY
AMD 宣布以约 82 亿美元全股票收购李飞飞创立的世界模型公司 World Labs,这是 AMD 史上第二大收购。交易完成后,李飞飞将出任 AMD 执行副总裁兼首席科学家,直接向苏姿丰汇报,World Labs 团队以相对独立的研究单元并入 AMD。文章回顾了李飞飞从 ImageNet、AI 民主化到空间智能的三次「挖坑」,认为此次收购让世界模型赛道获得