Andrew Ng 重新聚焦 AI 工程,提出四大核心技能
Andrew Ng 通过 DeepLearning.ai 重新聚焦 AI 工程,基于对 1 万多个职位发布的分析和专家访谈,提出了 AI 工程师的四大核心技能:构建和部署 AI 应用、软件工程基础、使用编码代理以及塑造产品构建。Latent Space 对此表示赞同,并指出这些技能不仅适用于 AI 工程师,也适用于更广泛的开发者。此外,AI 社区讨论了代理框
公司与模型 · 英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力供给
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 12:39
Andrew Ng 通过 DeepLearning.ai 重新聚焦 AI 工程,基于对 1 万多个职位发布的分析和专家访谈,提出了 AI 工程师的四大核心技能:构建和部署 AI 应用、软件工程基础、使用编码代理以及塑造产品构建。Latent Space 对此表示赞同,并指出这些技能不仅适用于 AI 工程师,也适用于更广泛的开发者。此外,AI 社区讨论了代理框
CircleStone Labs 与 Comfy Org 合作发布了 Anima,一个 20 亿参数、专注于动漫风格的非写实文生图模型。该模型基于 NVIDIA Cosmos-Predict2-2B 微调,提供 Base、Aesthetic 和 Turbo 三个版本,支持 ComfyUI 原生使用。Anima 在动漫图像上训练,也可生成其他非写实内容,但不适
据 Business Insider 报道,AI 模型托管平台 Hugging Face 已收到以 130 亿美元或更高估值出售的接洽,目前正在与银行合作评估竞标,但尚未达成协议。该公司最近成为 OpenAI 系统安全评估期间逃逸并入侵其服务器的攻击目标。Hugging Face 上一轮融资估值为 45 亿美元,CEO 表示公司接近盈利,并强调对社区的长期责
Cerebras 发布了 CS-4 AI 加速器,基于 5nm WSE-3 芯片,通过提升时钟速度和增强冷却,性能达到 CS-3 的两倍。单个机架可容纳三个晶圆,每个用户每秒可处理 4400 个 token,据称比 Nvidia GPU 快 30 倍。CS-4 采用模块化 'Backpack' 设计,并通过 AMD 和 AWS Trainium 等合作伙伴实
AFAC2026金融智能创新大赛总决赛路演将于8月25-26日在上海举办,并同步进行高清直播。活动包括产学研嘉宾分享、圆桌论坛、脱口秀等环节,联合16家传播伙伴。该大赛由多家机构联合发起,已吸引超1.5万支队伍参赛,旨在推动金融AI技术创新落地。
XPerf 是一个用于对 LLM 服务系统进行代理式 AI 工作负载基准测试的框架,它通过细粒度轨迹重放来确保可复现性,并提供系统和硬件性能的详细剖析。该框架默认包含八个代理应用,支持从真实应用中收集轨迹、合成新工作负载,并可在不同服务系统上重放。实证研究表明,XPerf 能准确重放代理工作负载,帮助识别性能瓶颈,并辅助系统调试。XPerf 将在 GitHu
Hugging Face 上发布了 Mistral-Nemo-Instruct-heretic,这是 Mistral-Nemo-Instruct-2407 的去审查变体,通过 Heretic 工具进行方向消融(abliteration)而非微调,抑制了模型的拒绝行为,同时保留了基础模型的能力。该模型提供多种 GGUF 量化版本,可在消费级 GPU 上运行,但
cHunter789 在 Hugging Face 上发布了 Qwen3.8-27B 模型的 GGUF 量化版本,采用 ik llama.cpp 项目的 IQ4 KS 和 IQ4 KT 量化技术,旨在让模型适配 16GB 显存的 NVIDIA 显卡。该量化版本通过 q4 0 KV 缓存量化支持最长 110k 上下文,并对比了与 mradermacher 量化
Latent Space 的 AINews 文章提出,自 2022 年以来,AI 流水线中越来越多的组件从人类制造转向模型制造,形成“模拟”趋势:性能略差(10%),但成本更低(100 倍)且速度更快(10000 倍)。文章按阶段梳理了从奖励信号、训练数据、教师模型、课程设计到研究者、环境乃至人类主体的合成化进程,并引用 InstructGPT、Phi、Al
SGLang 发布 v0.5.18 版本,包含 710 个 PR,来自 212 位贡献者。新增支持 Muse Glimmer、Intern-S2-Mobius、SANA-Video、LingBot-Video-MoE、LTX-2.5、Cosmos3 Edge & Distilled、LongCat-Image 等模型,并优化了启动性能、LMHead 通信和缓
llama.cpp 项目发布了 v0.2.0 版本,包含大量底层优化和修复,涉及 CUDA、SYCL、OpenCL、Vulkan、Metal 等多个后端。新增功能包括对 LFM2 模型的支持、GraniteSWA 模型、Mamba-2 的 OpenCL 移植,以及服务器端多项改进。该版本还提升了量化内存使用效率,并增强了 CI 和发布流程。
企业支出管理平台 Ramp 推出了自己的 AI 模型路由服务 Router,允许用户和公司通过 API 使用和切换多种大语言模型。该服务目前仅在美国可用,2026 年剩余时间内免费,并提供 26 美元信用额度。Router 提供来自 OpenAI、Anthropic、DeepSeek 等多家公司的模型,并支持多种路由策略和仪表盘监控。此举旨在进入 AI 推理
中国机器人制造商宇树科技在上海IPO后估值约500亿美元,股价大涨。据英国《金融时报》报道,其需求依赖循环模式:制造商向国有培训中心出售机器人,再购回训练数据。分析师质疑高估值和数据实用性,宇树近四分之三的人形机器人收入来自教育和研究领域。
llama.cpp 发布 b10509 版本,新增 ggml rope set offset 操作,并支持 Metal、CUDA、Vulkan 后端。该版本提供了多平台预编译二进制文件,包括 macOS、Linux、Windows、Android 等。
本文介绍了一个名为 DumpsterCluster 的 128-GPU 集群,完全由二手组件构建,用于服务 LLaMA-70B 等现代 LLM 推理。该集群成本仅为 2.2 万美元,远低于 8-GPU B200 系统的 60 万美元,并通过流水线并行优化实现了有竞争力的吞吐量。然而,研究发现二手 GPU 的能效较低,总拥有成本仅在电价低廉的地区有利,且碳排放
AI 芯片初创公司 Etched 宣布获得 7 亿美元新融资,估值达 210 亿美元,由量化基金 Jane Street 领投。该公司设计了两款新组件以加速推理过程,包括低电压预填充芯片和集群规模内存互连,承诺提高速度并降低成本。尽管早期曾被认为芯片为特定模型定制,Etched 表示其系统现在可运行任何前沿模型。
SemiAnalysis 的 Jordan Nanos 在演讲中分析了 AI 芯片市场现状,指出超大规模云厂商大幅上调资本支出,但台积电的晶圆产能扩张缓慢,成为关键瓶颈。他介绍了 SemiAnalysis 的 ClusterMAX 和 InferenceX 项目,用于测试云提供商和芯片性能,并强调硬件理解对软件开发的重要性。
支付公司 Stripe 以 70 亿美元收购 AI 模型路由平台 OpenRouter,交易在 90 天前其 13 亿美元 B 轮融资后完成。OpenRouter 年化收入 1.4 亿美元,毛利率约 70%,月处理 250 万亿 token,拥有 800 万开发者。该交易凸显模型聚合层的价值,但也引发对中间层利润压缩的担忧。
llama.cpp 发布 b10472 版本,主要修复了 HIP 构建中错误使用 UMA 覆盖的问题,AMD APU 现在通过 hipMemGetInfo 报告准确内存,避免小内存系统上的过度承诺。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的二进制文件,并支持多种后端如 CUDA、Vulkan、ROCm 等。
llama.cpp 发布 b10431 版本,主要更新为 ggml ssm scan 支持循环状态回滚(recurrent state rollback),并支持 K 1 的情况,覆盖 CPU 和 CUDA 后端。该功能有助于提升状态空间模型(如 Nemotron)在推理时的效率。