NVIDIA Cosmos 扩展世界模型训练、评估与部署工具
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图,帮助开发者构建用于物理 AI 的世界模型。Cosmos 在六个开放模型排行榜上进入前五,并提供数据整理、合成数据生成、模型微调与优化、NIM 微服务部署等能力。Porsche、ANYbotics、Ultralytics、ADNOC 等公司已用其加
技术方向 · 训练侧的门道:数据集构建、合成数据、预训练与后训练方法 · 共 927 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图,帮助开发者构建用于物理 AI 的世界模型。Cosmos 在六个开放模型排行榜上进入前五,并提供数据整理、合成数据生成、模型微调与优化、NIM 微服务部署等能力。Porsche、ANYbotics、Ultralytics、ADNOC 等公司已用其加
研究团队提出 WildAWM,一个完全由开源模型驱动的可扩展流水线,用于合成同时支持 GUI、MCP 服务和 CLI 的可控计算机使用环境与任务,以训练通用计算机使用智能体(CUA)。该流水线通过基于执行的质量门控(异构智能体 rollout、交叉评判一致性检查、反事实探针)保证任务可解、有难度且可可靠验证,共合成 341 个长程环境-任务对,部分需超过 1
研究者提出 SimHack,一个轻量级行为模拟器,用于在强化学习训练开始前预测可检测的奖励黑客(reward hacking)出现时间。该方法从少量小规模参考 RL 运行中学习奖励黑客的训练动态,无需重新训练即可对未见过的训练配方进行反事实模拟。实验显示,SimHack 对中位出现步数的相对误差为 11.3%,跨配方排序相关性达 0.85,并能泛化到模型规模
研究提出 JUICE,一种在冻结的预训练图像与文本编码器连续表示空间中,用单一流匹配 Transformer 联合建模多模态分布的方法,每个模态有独立噪声水平,通过选择哪些模态保持干净来决定任务类型。在 2.1B 参数、无语言模型初始化条件下,JUICE 在 GenEval 上达到 0.88、VQAv2 上达到 73.1,联合采样在迷宫任务上成功率从独立采样
该研究对MS1MV3人脸识别训练集进行受控审计,发现其中仍存在五类数据缺陷:重复图像、身份分裂、裁剪错误、多脸歧义和无效内容。作者在IResNet-50与ArcFace的受控训练协议下分别纠正这些缺陷,发现去重带来的整体收益最明显,合并分裂身份和移除无效内容也能提升训练效率,而联合过滤多种缺陷并未带来同等收益。结果表明数据清洗的效果高度依赖缺陷类型,训练数据
论文提出 Successive Scale Racing(SSR)框架,用于智能体 harness 的自动演化。作者发现,现有方法在扩大演化任务池时性能反而下降,原因是优化过程中证据选择不佳;SSR 通过按质量与覆盖度排序证据组合,并在小算力预算下对候选 harness 进行渐进式竞速筛选来解决该问题。在 SWE-Bench Pro Verified、Dee
研究团队提出 JaxMARL-BC,一个基于 JAX 加速的多智能体强化学习宏观经济模拟器,将 MARL-BC 经济模型的训练时间从数小时缩短到数秒,并支持扩展到数十万个独立学习家庭。该工作验证了模型在已知 DSGE 极限下的正确性,给出简单的成本缩放规律,并用两小时完成此前需一个多月的异质资本回报模型校准实验。作者以开源形式发布该模拟器,旨在降低宏观经济学
该论文提出 ClariEdge 数据集,包含约 3900 个多轮对话、检索文档及显式难负例,用于识别 RAG 场景中需要澄清的模糊查询。作者用轻量 LoRA 微调小模型,在分类准确率(96.6%)和澄清生成质量上超过多个更大模型的提示基线,且同一模型可同时用于检索前和检索后两个阶段。研究还表明难负例对区分真正模糊与看似模糊的查询至关重要。
AWS 机器学习博客发布教程,介绍如何在单台 trn2.48xlarge 实例上使用 torchtitan 在 AWS Trainium 上训练 Qwen3。教程给出三种配置:以 Transformers v5 作为建模后端、使用 torchtitan 原生 Qwen3 模型,以及接入 NKI 的 MoE 内核。TorchNeuron 将 Trainium
研究者提出 Progress-Aligned Recurrence(PAR)训练方法,让循环语言模型在第 k 次迭代时预测前 k 步操作后的状态,并将循环状态重新缩放到首次迭代的范数。在 swap-S 5 任务上,仅用最多 32 步序列训练的 Qwen2.5-0.5B 模型在 512 步时达到 95.5% 全状态准确率,实现 16 倍长度外推,显著优于 RL
Hugging Face 上出现了一个名为 ReliquaryForge/qwen3-4b-base-dapo-v4 的模型页面,内容为 Qwen3-4B-Base 的模型卡。该模型卡介绍了 Qwen3 系列在预训练语料、训练技术、三阶段预训练和超参数调优方面的改进,并给出 Qwen3-4B-Base 的 4.0B 参数、32k 上下文等规格。页面还提示需使
NVIDIA 宣布扩展 Confidential Computing(机密计算),推出 Confidential Bare Metal 裸金属部署选项,使前沿模型构建者能在第三方云、neocloud 和企业基础设施上运行敏感工作负载,同时保留对模型和数据的控制。该方案与 Confidential Containers、Confidential Virtual
生数科技世界模型团队于10月21日开启Motubrain 2.0训练全流程公开直播,计划持续半个月,向公众展示具身模型的训练过程与研究进展。直播涵盖预训练、后训练、Agent任务执行和RSI递归自我改进探索四个环节,Motubrain 2.0即将开源。此举尝试打开具身模型训练的“黑盒”,让研究者和开发者看到模型能力形成过程及训练中的失败与调整,为Physic
文章围绕具身智能的「实景实训平台」展开,指出训练通用具身模型需要千万小时级真实交互数据,而全球高质量真机语料仅百万小时量级,存在约一个数量级的缺口。2026年6月工信部与国务院国资委启动人形机器人与具身智能实景实训专项行动,推动在真实工位采集数据、训练与验证。上海浦东已形成训练、生产、回流、培养的链条,包括智元数据采集工厂、上汽通用「能仔1号」在电池量产线累
该论文提出 DataPraxis,一个基于「已验证工作区演化」的分析任务合成框架:通过逐步积累经校验的分析发现与产物,并继承、组合工作区来挖掘更深层问题,再用双重证据校验构建评估标准。作者据此构建了覆盖 15 个领域的 5,000 条已验证轨迹数据集 DataPraxis-5K,并训练出 DataPraxis-27B 与 DataPraxis-35B-A3B
论文提出 Beckmann World Models(BWM),将 Beckmann Transport Models 的终端映射守恒律适配到动作条件视频预测,无需预训练生成教师即可从噪声、视觉历史和动作直接一步预测未来帧。作者指出传输一致性无法保证纯噪声输入下的预测精度,因此引入端点对齐训练,直接监督源预测并强调运动与空间结构。在 PushT 和 Robo
该论文提出 Navalia 框架,用于训练能自主规划、调用工具并交付可验证结果的 Cowork Agent。它从企业财报构建文档与事实的双视图表示,由 LLM 语义筛选证据并构建带真实数据依赖的可执行计算链,再通过确定性执行、独立 LLM 审查和程序化检查验证题目、证据、计算过程与参考答案的一致性。训练采用冷启动 SFT 加强化学习的两阶段流程,基于 Qwe
香港大学等机构的研究者提出 S2-MAS,一个基于 5 亿合成家庭画像的社会尺度多智能体模拟框架,其 Genese 引擎将决策与状态更新分离。配套的紧凑决策模型 FinL-mlx 用 293 万样本经 SFT+RLCD 训练,在消费金融选择场景达到 74.55% 准确率和 38.37% 的 question-macro F1,超过 Jev 1.13 和 GL
该研究探讨用开源翻译模型 Hunyuan-MT-7B 替代 RASTA 框架中闭源 GPT-4 的可行性,评估基础模型、LoRA 监督微调与 GRPO 策略引导三个变体在正式度、礼貌度和亲密度三个风格维度及十二个语言对上的风格对齐表现。结果显示微调未带来统计显著的总体提升,开源模型整体不及 RASTA-GPT-4,差距集中在正式度维度,但在亲密度和中文方向上
开发者 DavidAU 在 Hugging Face 发布了基于 LiquidAI/LFM2.5-24B-A2B 的微调量化模型 LFM2.5-24B-A2B-Turbo-Brilliance-50X-NEO-MAX-Imatrix-GGUF,主打名为 Turbo Brilliance 的系统,包含 27 种推理模式和 15 个 AI Constructs,