NVIDIA 用 QAD 开发 Nemotron 3.5 Lightning NVFP4 模型
NVIDIA 发布了 Nemotron 3.5 Lightning NVFP4 检查点,通过量化感知蒸馏(QAD)将模型从 66 GB 压缩至 22 GB,同时实现高达 4 倍的吞吐量提升。该过程使用 NVIDIA Model Optimizer,先进行 PTQ 量化,再通过蒸馏恢复精度。文章详细介绍了 QAD 的两阶段流程、PTQ 配方选择及评估结果,表明
公司与模型 · 英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力供给
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 07:16
NVIDIA 发布了 Nemotron 3.5 Lightning NVFP4 检查点,通过量化感知蒸馏(QAD)将模型从 66 GB 压缩至 22 GB,同时实现高达 4 倍的吞吐量提升。该过程使用 NVIDIA Model Optimizer,先进行 PTQ 量化,再通过蒸馏恢复精度。文章详细介绍了 QAD 的两阶段流程、PTQ 配方选择及评估结果,表明
AWS 宣布 NVIDIA Nemotron 3.5 Lightning 模型现已在 Amazon SageMaker JumpStart 上提供,该模型专为高容量代理工作负载设计,采用混合 MoE 架构,总参数 30B 但仅激活 3B,支持高达 1M 上下文长度,吞吐量提升 4 倍,任务完成速度提升 30%。用户可通过 SageMaker JumpStar
英伟达宣布向软银和OpenAI关联的数据中心开发商SB Energy投资15亿美元,并承诺提供高达1050亿美元的信贷支持,用于建设俄亥俄州辛辛那提附近的OpenAI Ports-Pike数据中心。该设施初期规模4.25吉瓦,可扩展至8吉瓦,英伟达将成为其唯一计算基础设施供应商。项目还包括一座92亿瓦的天然气发电厂,预计耗资330亿美元,但天然气价格可能因竞
另有 1 家信源报道
Nvidia 正大力投资近乎开源的模型(如 Nemotron),通过发布训练数据和代码,鼓励更多公司构建自己的模型,从而扩大对其芯片的需求。文章指出,开源模型生态的未来取决于能否形成经济回报闭环,否则可能转向效率优先的细分市场。同时,训练复杂度的提升和开源社区对后训练的关注,可能改变传统训练流程的划分。
OpenAI与软银子公司SB Energy签署了俄亥俄州数据中心20年租约,获得约8吉瓦IT容量,英伟达提供最高1050亿美元担保并成为独家芯片供应商。英伟达CEO黄仁勋提出“LPS”(土地、电力、建筑外壳)是AI建设的新瓶颈。华尔街日报分析显示,九家科技公司持有约3万亿美元的表外AI承诺,投资者难以评估实际债务水平。
另有 1 家信源报道
英伟达因投资者压力,将其对OpenAI数据中心项目的担保金额从原计划的2500亿美元削减至不到1200亿美元,该项目由软银旗下SB Energy开发,总容量10吉瓦。与此同时,Anthropic季度营收从Q1的47.3亿美元翻倍至Q2的115亿美元以上,同比增长14倍,并计划以近1万亿美元估值上市。这些数据对AI泡沫论构成挑战。
印尼通信与数字事务部、Indosat Ooredoo Hutchison、NVIDIA 和加查马达大学(UGM)在日惹共同启动了该国首个大学 AI 技术中心 UGM Indosat NVIDIA AI Technology Center(NVAITC)。该中心基于 NVIDIA 全栈 AI 平台和 Indosat 的 GPU Merdeka 主权 GPU 即
Hugging Face 2026年夏季报告显示,开放模型数量持续增长,但下载分布极不均衡。中国实验室在超大模型发布上领先,而美国硬件公司如AMD和NVIDIA成为开源模型发布主力。下载量与点赞量反映不同价值,前沿模型受关注但小模型被广泛使用。
英伟达宣布与多家金融机构合作,承诺投入高达5000亿美元建设AI数据中心,并为其GPU作为抵押品的价值提供最高25%的担保,以建立二手AI硬件市场。此举旨在缓解融资风险,但面临“错误方向”风险,可能因需求疲软而增加公司负担。英伟达CEO黄仁勋强调这是引入独立长期资本,而非循环融资,并希望打造AI基础设施的长期投资价值。
阿里巴巴发布了其最大的开源权重模型 Qwen3.8-2.4T-A95B(Qwen3.8-Max),总参数达 2.4T,每个 token 激活 95B 参数,采用细粒度 MoE 架构和全注意力与线性注意力混合设计,支持百万 token 上下文。NVIDIA 宣布该模型可在 GB300 NVL72 平台上以 FP8 精度实现每 GPU 每秒超 4K tokens
NVIDIA 发布了 Streaming Sortformer Diarizer 4spk v2 模型,这是一个用于说话人日志的流式端到端神经模型,基于 FastConformer-Transformer 架构,参数量为 117M。该模型在 DIHARD III 和 CALLHOME 等基准测试上取得了较低的 DER 值,并支持 NeMo Voice Age
NVIDIA 技术博客发布了一篇关于 AI 工厂全栈可观测性选型的指南,针对 AI 基础设施多层架构中故障定位难的问题,提出了一个基于 NVIDIA DGX 部署的决策框架。文章通过分布式训练中 InfiniBand 链路静默故障的案例,说明了全栈可观测性的重要性,并给出了组件到遥测工具的映射表,帮助运维团队选择最小工具集并构建分诊仪表板。
英伟达正在开发新一代开源权重模型 Nemotron 4,其最大版本参数规模至少达一万亿,是 Nemotron 3 Ultra 的两倍,最早可能于今年秋季发布。为此,英伟达已将其用于内部模型训练的云支出增加至 2031 年的 280 亿美元。尽管规模庞大,但中国实验室已超越这一水平,如 Moonshot AI 的 Kimi K3 有 2.8 万亿参数,Deep
NVIDIA 发布 JetPack 7.2.1,首次在 Jetson 平台支持 PyNvVideoCodec 2.2,提供硬件加速视频编解码的 Python 接口,并引入基于 agent 的视频技能,帮助开发者自动配置、验证和基准测试编解码流程。该版本旨在加速 Jetson 上的 AI 应用开发,提升视频处理管线的效率和可复现性。
NVIDIA 发布了 Nemotron-3.5-Lightning-30B-A3B-NVFP4 模型,采用 MoE 架构,总参数 30B,激活参数 3B,支持长达 1M 的上下文,并针对单 GPU 部署优化。该模型支持多种硬件,并提供了 DSpark 等投机解码方法以加速生成。基准测试显示其在编码和智能体任务上表现良好,模型采用 OpenMDW-1.1 许可
Nvidia发布了开源权重模型Nemotron 3.5 Lightning,该模型拥有316亿总参数但仅激活36亿参数,在智能指数上达到24分,与OpenAI的gpt-oss-120b持平,但推理速度接近每秒670个token,远超同类模型。该模型在代理基准测试中表现显著提升,采用宽松的OpenMDW-1.1许可证,并提供BF16和NVFP4权重,多家云服务
Ollama 发布 v0.32.9 版本,新增对 NVIDIA Nemotron 3.5 Lightning 模型的支持。该模型是一个开放 30B 参数的混合专家(MoE)模型,仅有 3B 活跃参数,专为常驻 AI 代理的执行层设计,并支持 OpenClaw 和 Hermes Agent 等框架。此外,该版本还修复了 Muse Glimmer 函数调用解析器
NVIDIA 发布了 Nemotron 3.5 Lightning,一个 30B 参数的 MoE 模型,仅有 3B 活跃参数,专为长时间运行的 AI 代理的高频执行任务设计。该模型支持 OpenClaw 和 Hermes Agent 等框架,并配合 NVIDIA NeMo Switchyard 进行模型路由,以及 NeMoClaw 安全与管理栈。Nemotr
另有 1 家信源报道
NVIDIA 在八月庆祝本地 AI 生态,发布多款新模型和工具,包括 Cosmos 3 Edge、MiniMax-H3、Laguna S 2.1、DeepSeek-V4-Flash、Inkling-Small、Wan-Animate-2 和 LTX-2.5,并支持 Meta 的 Muse Glimmer 模型。这些模型和工具旨在推动本地 AI 和智能代理的发
NVIDIA 发布了 Nemotron 3.5 Lightning,一个 300 亿参数的混合专家模型,专为长时间运行的代理式 AI 工作负载设计,提供高达 4 倍的输出速度和 30% 更快的任务完成速度。同时,NVIDIA 推出了 NeMo Switchyard,一个开源模型路由库,可智能地将请求路由到最合适的模型,降低成本并保持质量。这些发布旨在为企业提