大模型 Infra 人才薪资狂飙:年薪冲 800 万,仅少数人吃到红利
雷峰网报道称,DeepSeek R1 发布后 AI Infra 人才薪资大幅上涨,优秀 Infra 工程师年包可达七八百万,跳槽涨幅常见 2 倍、个别达 3 倍。原因是行业从拼算法转向拼底层系统工程,Infra 通过提升 GPU 利用率(行业平均仅 25% 27%,优秀团队可达 40%)直接为公司节省数千万算力成本。但高溢价仅集中在推理优化、模型量化、算子开
产业与政策 · 加速卡、算力供给与硬件供应链 · 共 625 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
雷峰网报道称,DeepSeek R1 发布后 AI Infra 人才薪资大幅上涨,优秀 Infra 工程师年包可达七八百万,跳槽涨幅常见 2 倍、个别达 3 倍。原因是行业从拼算法转向拼底层系统工程,Infra 通过提升 GPU 利用率(行业平均仅 25% 27%,优秀团队可达 40%)直接为公司节省数千万算力成本。但高溢价仅集中在推理优化、模型量化、算子开
llama.cpp 发布 b11640 版本,主要变更是 Vulkan 后端针对 cm2 mulmat 采用对 L2 缓存友好的 workgroup 调度(PR #30215)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
llama.cpp 发布 b11639 版本,主要修复了 OpenCL 后端 CLAMP 算子在处理非连续(strided)视图时索引错误的问题。修复方式是新增一个针对非连续输入的 strided kernel clamp nc,并在源张量非连续时启用该内核,行为与其他一元算子保持一致。该版本同时提供 macOS、Linux、Windows、Android
llama.cpp 发布 b11636 版本,为 SYCL 后端新增 IQ3 S 和 IQ3 XXS 权重的持久化重排(reorder)支持,在加载时一次性重排权重,使 MMVQ 点积以稠密超级块方式配合 dp4a 与 SWAR 符号扩展执行,并让重排感知的反量化服务于批量 prefill GEMM。在 Intel Arc Pro B70 上实测,Qwen3
2026湾区半导体产业生态博览会(湾芯展)10月14日在深圳会展中心启幕,由中国国际工程咨询有限公司指导,深圳市半导体与集成电路产业联盟等主办,1000余家半导体企业参展。展会设晶圆制造、化合物半导体、先进封装、IC设计/AI基础设施四大核心展区,并新设AI+3D IC先进封装创新专区、第三代半导体国家技术创新中心专区及AIE AI基础设施产业生态展。开幕式
llama.cpp 发布 b11627 版本,主要变更为在 ggml 中为 mul mat id 添加说明注释,并禁用了 mul mat id dup 相关测试(PR #30501)。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SY
Apple ML Research 发布博客,介绍在 Mac Studio 上使用最新版 MLX 框架进行本地与分布式大模型推理。单机可运行 Qwen 3.8(27B)和 Mistral Medium 3.5(128B),四台 Mac Studio 集群通过 Thunderbolt 5 上的 RDMA 驱动和 MLX 的 jaccl 通信原语,以流水线并行方
llama.cpp 发布 b11623 版本,主要变更是 CUDA 后端在 AMD GPU 上使用 SIMT 隐式 GEMM 实现 conv2d,不再依赖 WMMA,并在短归约场景下跳过该 SIMT 路径。该改动由社区贡献者提交,Claude Opus 提供辅助。版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
Ollama 发布 v0.40.5 版本,主要更新包括将 MLX 的 Metal 自定义内核移植到 CUDA、在 OpenAI 兼容的 Responses 历史中支持自定义工具调用、更新模型推荐与语言标准化文档、优化云支付错误提示,并升级 MLX 版本。该版本为常规迭代更新,提升了跨平台推理与 OpenAI 接口兼容性。
llama.cpp 发布 b11621 版本,主要变更是 OpenCL 后端针对 Adreno GPU 的 MoE 专家排序改用 buf+offset 替代 subbuffer(PR #30418)。同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO
llama.cpp 发布 b11620 版本,主要修复 OpenCL 后端中 q8 0 dp4a 的 mul mat id 计算问题,并针对 Adreno GPU 将 PREC F32 的 mul mat id 标记为不支持。该更新由高通工程师参与贡献,同时附带各平台预编译二进制文件。
维信诺联合清华大学、iQOO在清华科技园举办屏幕技术沟通会,全球首发量产2K+185Hz手机屏幕,并推出基于第四代OLED材料pTSF的“天空之镜”定制发光材料。该材料相比上一代发光效率提升8%、全局峰值亮度提升10%、功耗降低6.5%、寿命提升50%,将搭载于即将登场的iQOO Neo 12旗舰。此次发布通过基础研究、量产制造与终端应用协同,突破了高分辨率
英国AI算力基建公司Nscale向SEC递交IPO申请,并通过可转换贷款票据完成33.6亿美元融资,其中英伟达承诺10亿美元,市场预期估值最高约350亿美元。Nscale披露合同总收入约1034亿美元,包括与Anthropic最高约450亿美元的GPU服务协议,并深度绑定英伟达。该公司2024年5月才从比特币挖矿企业Arkon Energy分拆独立,创始人J
铭芯启睿(MemSilicon)于2026年10月12日宣布完成国际首款基于1TnR技术路线的高密度、大容量RRAM芯片“泰山一号(MountTai 2026)”流片。该芯片采用28nm CMOS工艺和1T4R单元结构,单芯片容量1Gb,密度达30Mb/mm²,访问延时小于20ns,并集成片上硬件纠错电路,目前正在推进验证。公司围绕嵌入式RRAM IP、高密
论文提出 DoSA(Dots Sparse Attention),一种无损稀疏注意力方法,通过为每个 token 构造分数上界与 Top-k 阈值下界,在保留精确 token 选择的前提下跳过大量全头打分。该方法针对 DeepSeek 稀疏注意力(DSA)中带符号 ReLU 索引器的稠密打分瓶颈,利用非负头投影、联合残差界和激活感知聚合来收紧候选排除条件。在
另有 1 家信源报道
该论文提出 DoSA(Dots Sparse Attention),一种无损稀疏注意力方法,通过分数上下界证书提前拒绝候选 token,仅对仍符合条件的候选进行完整打分,从而保持精确的 Top-K 选择。其 GPU 实现使完整 Indexer 相比 SGLang 提速最高 2.74 倍、相比 LiteTopK 提速 1.69 倍。在 GLM-5.2 和 De
另有 1 家信源报道
llama.cpp 发布 b11609 版本,主要修复了 WebGPU 后端在专家 ID 重复情况下 mul mat id 的 CI 问题。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
Science Corporation 宣布其视力恢复芯片 PRIMA 已植入首例 Stargardt 病患者体内,该患者于 5 月在澳大利亚悉尼眼科医院接受手术,并在康复训练中看到字母、读出单词。公司 CEO Max Hodak 在 TechCrunch Disrupt 上表示,视网膜属于中枢神经系统,PRIMA 是其脑机接口(BCI)布局的一部分,该设备
llama.cpp 发布 b11603 版本,主要变更是优化 Vulkan 后端在池化窗口较大时的 pool 2d 算子:当窗口大于一个 subgroup 时,改用整个 subgroup 计算每个输出。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包。
llama.cpp 发布 b11602 版本,主要变更是 meta 后端在 arena 重新分配时重建所有子图(PR #30453),并回退了新增的测试用例。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。