返回主题地图

数据与训练

技术方向 · 训练侧的门道:数据集构建、合成数据、预训练与后训练方法 · 共 927 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月22日周四 · 9 条
正文结构化主题已通过公开置信门槛
NVIDIA Generative AI Blog一手来源产品发布

NVIDIA Cosmos 扩展世界模型训练、评估与部署工具

NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图,帮助开发者构建用于物理 AI 的世界模型。Cosmos 在六个开放模型排行榜上进入前五,并提供数据整理、合成数据生成、模型微调与优化、NIM 微服务部署等能力。Porsche、ANYbotics、Ultralytics、ADNOC 等公司已用其加

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

WildAWM:合成计算机使用智能体环境与任务

研究团队提出 WildAWM,一个完全由开源模型驱动的可扩展流水线,用于合成同时支持 GUI、MCP 服务和 CLI 的可控计算机使用环境与任务,以训练通用计算机使用智能体(CUA)。该流水线通过基于执行的质量门控(异构智能体 rollout、交叉评判一致性检查、反事实探针)保证任务可解、有难度且可可靠验证,共合成 341 个长程环境-任务对,部分需超过 1

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

SimHack:在 RL 训练前预测可检测奖励黑客的出现

研究者提出 SimHack,一个轻量级行为模拟器,用于在强化学习训练开始前预测可检测的奖励黑客(reward hacking)出现时间。该方法从少量小规模参考 RL 运行中学习奖励黑客的训练动态,无需重新训练即可对未见过的训练配方进行反事实模拟。实验显示,SimHack 对中位出现步数的相对误差为 11.3%,跨配方排序相关性达 0.85,并能泛化到模型规模

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

JUICE:在预训练表示空间中统一多模态建模

研究提出 JUICE,一种在冻结的预训练图像与文本编码器连续表示空间中,用单一流匹配 Transformer 联合建模多模态分布的方法,每个模态有独立噪声水平,通过选择哪些模态保持干净来决定任务类型。在 2.1B 参数、无语言模型初始化条件下,JUICE 在 GenEval 上达到 0.88、VQAv2 上达到 73.1,联合采样在迷宫任务上成功率从独立采样

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

不同缺陷不同影响:人脸识别训练数据的受控审计

该研究对MS1MV3人脸识别训练集进行受控审计,发现其中仍存在五类数据缺陷:重复图像、身份分裂、裁剪错误、多脸歧义和无效内容。作者在IResNet-50与ArcFace的受控训练协议下分别纠正这些缺陷,发现去重带来的整体收益最明显,合并分裂身份和移除无效内容也能提升训练效率,而联合过滤多种缺陷并未带来同等收益。结果表明数据清洗的效果高度依赖缺陷类型,训练数据

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

SSR:通过逐级规模竞速实现智能体 harness 演化

论文提出 Successive Scale Racing(SSR)框架,用于智能体 harness 的自动演化。作者发现,现有方法在扩大演化任务池时性能反而下降,原因是优化过程中证据选择不佳;SSR 通过按质量与覆盖度排序证据组合,并在小算力预算下对候选 harness 进行渐进式竞速筛选来解决该问题。在 SWE-Bench Pro Verified、Dee

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

JaxMARL-BC:秒级训练的多智能体宏观经济学模拟器

研究团队提出 JaxMARL-BC,一个基于 JAX 加速的多智能体强化学习宏观经济模拟器,将 MARL-BC 经济模型的训练时间从数小时缩短到数秒,并支持扩展到数十万个独立学习家庭。该工作验证了模型在已知 DSGE 极限下的正确性,给出简单的成本缩放规律,并用两小时完成此前需一个多月的异质资本回报模型校准实验。作者以开源形式发布该模拟器,旨在降低宏观经济学

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

小模型更会提问:面向RAG的查询澄清微调

该论文提出 ClariEdge 数据集,包含约 3900 个多轮对话、检索文档及显式难负例,用于识别 RAG 场景中需要澄清的模糊查询。作者用轻量 LoRA 微调小模型,在分类准确率(96.6%)和澄清生成质量上超过多个更大模型的提示基线,且同一模型可同时用于检索前和检索后两个阶段。研究还表明难负例对区分真正模糊与看似模糊的查询至关重要。

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源教程

在 AWS Trainium 上用 torchtitan 训练 Qwen3

AWS 机器学习博客发布教程,介绍如何在单台 trn2.48xlarge 实例上使用 torchtitan 在 AWS Trainium 上训练 Qwen3。教程给出三种配置:以 Transformers v5 作为建模后端、使用 torchtitan 原生 Qwen3 模型,以及接入 NKI 的 MoE 内核。TorchNeuron 将 Trainium

10月21日周三 · 11 条
正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

PAR:进度对齐循环提升状态跟踪的长度泛化

研究者提出 Progress-Aligned Recurrence(PAR)训练方法,让循环语言模型在第 k 次迭代时预测前 k 步操作后的状态,并将循环状态重新缩放到首次迭代的范数。在 swap-S 5 任务上,仅用最多 32 步序列训练的 Qwen2.5-0.5B 模型在 512 步时达到 95.5% 全状态准确率,实现 16 倍长度外推,显著优于 RL

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Qwen3-4B-Base 模型卡上线 Hugging Face

Hugging Face 上出现了一个名为 ReliquaryForge/qwen3-4b-base-dapo-v4 的模型页面,内容为 Qwen3-4B-Base 的模型卡。该模型卡介绍了 Qwen3 系列在预训练语料、训练技术、三阶段预训练和超参数调优方面的改进,并给出 Qwen3-4B-Base 的 4.0B 参数、32k 上下文等规格。页面还提示需使

正文结构化主题已通过公开置信门槛
NVIDIA Generative AI Blog一手来源产品发布

NVIDIA 扩展机密计算,推出 Confidential Bare Metal

NVIDIA 宣布扩展 Confidential Computing(机密计算),推出 Confidential Bare Metal 裸金属部署选项,使前沿模型构建者能在第三方云、neocloud 和企业基础设施上运行敏感工作负载,同时保留对模型和数据的控制。该方案与 Confidential Containers、Confidential Virtual

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论研究

生数科技直播Motubrain 2.0具身模型训练全流程

生数科技世界模型团队于10月21日开启Motubrain 2.0训练全流程公开直播,计划持续半个月,向公众展示具身模型的训练过程与研究进展。直播涵盖预训练、后训练、Agent任务执行和RSI递归自我改进探索四个环节,Motubrain 2.0即将开源。此举尝试打开具身模型训练的“黑盒”,让研究者和开发者看到模型能力形成过程及训练中的失败与调整,为Physic

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论商业

实景实训平台:具身智能的下一座基础设施

文章围绕具身智能的「实景实训平台」展开,指出训练通用具身模型需要千万小时级真实交互数据,而全球高质量真机语料仅百万小时量级,存在约一个数量级的缺口。2026年6月工信部与国务院国资委启动人形机器人与具身智能实景实训专项行动,推动在真实工位采集数据、训练与验证。上海浦东已形成训练、生产、回流、培养的链条,包括智元数据采集工厂、上汽通用「能仔1号」在电池量产线累

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

DataPraxis:通过已验证工作区演化扩展分析任务

该论文提出 DataPraxis,一个基于「已验证工作区演化」的分析任务合成框架:通过逐步积累经校验的分析发现与产物,并继承、组合工作区来挖掘更深层问题,再用双重证据校验构建评估标准。作者据此构建了覆盖 15 个领域的 5,000 条已验证轨迹数据集 DataPraxis-5K,并训练出 DataPraxis-27B 与 DataPraxis-35B-A3B

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

Beckmann 世界模型:面向一步动作条件预测的终端映射学习

论文提出 Beckmann World Models(BWM),将 Beckmann Transport Models 的终端映射守恒律适配到动作条件视频预测,无需预训练生成教师即可从噪声、视觉历史和动作直接一步预测未来帧。作者指出传输一致性无法保证纯噪声输入下的预测精度,因此引入端点对齐训练,直接监督源预测并强调运动与空间结构。在 PushT 和 Robo

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

Navalia:可验证任务合成与长程后训练提升协作智能体

该论文提出 Navalia 框架,用于训练能自主规划、调用工具并交付可验证结果的 Cowork Agent。它从企业财报构建文档与事实的双视图表示,由 LLM 语义筛选证据并构建带真实数据依赖的可执行计算链,再通过确定性执行、独立 LLM 审查和程序化检查验证题目、证据、计算过程与参考答案的一致性。训练采用冷启动 SFT 加强化学习的两阶段流程,基于 Qwe

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

S2-MAS:含5亿家庭画像智能体的社会尺度多智能体模拟框架

香港大学等机构的研究者提出 S2-MAS,一个基于 5 亿合成家庭画像的社会尺度多智能体模拟框架,其 Genese 引擎将决策与状态更新分离。配套的紧凑决策模型 FinL-mlx 用 293 万样本经 SFT+RLCD 训练,在消费金融选择场景达到 74.55% 准确率和 38.37% 的 question-macro F1,超过 Jev 1.13 和 GL

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

开源权重模型能否替代GPT-4实现文化对齐机器翻译

该研究探讨用开源翻译模型 Hunyuan-MT-7B 替代 RASTA 框架中闭源 GPT-4 的可行性,评估基础模型、LoRA 监督微调与 GRPO 策略引导三个变体在正式度、礼貌度和亲密度三个风格维度及十二个语言对上的风格对齐表现。结果显示微调未带来统计显著的总体提升,开源模型整体不及 RASTA-GPT-4,差距集中在正式度维度,但在亲密度和中文方向上

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

DavidAU 发布 LFM2.5-24B Turbo Brilliance 微调模型

开发者 DavidAU 在 Hugging Face 发布了基于 LiquidAI/LFM2.5-24B-A2B 的微调量化模型 LFM2.5-24B-A2B-Turbo-Brilliance-50X-NEO-MAX-Imatrix-GGUF,主打名为 Turbo Brilliance 的系统,包含 27 种推理模式和 15 个 AI Constructs,