返回主题地图

数据与训练

技术方向 · 训练侧的门道：数据集构建、合成数据、预训练与后训练方法 · 共 926 条

只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。

10月9日周五 · 8 条
正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

Wieszcz-XIX：31亿词1918年前波兰语语料库及时间受限语言模型

研究者构建了 Wieszcz-XIX，一个包含 67.5 亿 token（约 31 亿词）、294,369 篇文档的 1800-1918 年波兰语历史语料库，规模比同期人工标注语料大三个数量级以上，并公开了构建流程、代码与权重。基于该语料，他们从零训练了 47M 到 349M 参数的仅解码器模型阶梯，测量其时间边界性：349M 和 107M 模型在时期词汇上

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

Diffu-LoRA：面向个性化扩散模型的新型低秩适配

张江人工智能实验室的研究者提出 Diffu-LoRA，一种面向个性化扩散模型的参数高效微调方法。该方法在 Transformer 块的线性层中插入带门控的低秩适配组件，通过双层优化在独立数据划分上更新低秩因子与门控参数，并用渐进剪枝按预设秩预算移除低门控组件，从而在各层间非均匀分配适配容量。在 Stable Diffusion 上基于 DreamBooth

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

冻结解码器，修复编码器：基于SVD的KV缓存压缩参数高效适配

该论文研究基于SVD的KV缓存压缩中的参数高效微调方法，发现共享学习率会导致不公平比较，使最小可训练参数臂看似占优。在Qwen2.5-VL-3B-Instruct上，当每个实验臂使用各自调优的学习率后，仅训练编码器（冻结解码器）与仅训练解码器或全量微调达到相同精度，同时减少3个可训练参数和3倍优化器状态内存（0.57 vs 1.72 GiB）。该结果在纯文本

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

ConventionPlay：面向鲁棒临时协作的能力受限训练

论文提出 ConventionPlay，一种基于强化学习的训练方法，让智能体在与不同适应能力的伙伴协作时，主动探测伙伴能遵循的约定，并引导团队采用更优的联合策略。现有方法只训练出被动适应伙伴固定约定的跟随者，而 ConventionPlay 通过构建包含不同适应程度伙伴的训练种群，使智能体学会区分何时应顺从、何时应引导。实验表明，在多种复杂临时协作场景中，该

正文结构化主题已通过公开置信门槛
量子位模型发布

清华系星动纪元VPP2登顶RoboDojo，具身模型全球第一

清华系具身智能公司星动纪元自研的世界动作模型VPP2在RoboDojo仿真榜单登顶，综合平均成功率32.26%、平均得分39.26分，双双第一，超过GPT-6-Astra、π0.5、英伟达GR00T-N1.7等模型。VPP2采用视频预测与动作学习分阶段解耦训练的三阶段策略，在泛化、精细操作、记忆三个维度领先，并在真实ALOHA机器人零样本测试中平均成功率58

正文结构化主题已通过公开置信门槛
TechCrunch AI商业

本·阿弗莱克展示AI技术理解走红网络

演员本·阿弗莱克因在采访中展示对神经网络、机器学习、Transformer、张量、GPU、推理等 AI 概念的理解而走红网络。他此前将自己创办的 AI 电影制作初创公司以报道中的 5.87 亿美元出售给 Netflix，并透露曾参观 OpenAI。他称自己用开源模型解冻权重进行微调，并自建数据集用于后期训练，还表示不担心 AI 像“天网”一样接管电影业，认为

正文结构化主题已通过公开置信门槛
The Verge AI商业

USA Today 起诉 OpenAI，索赔逾 2.5 亿美元

美国报业公司 USA Today 及其旗下多家地方报纸起诉 OpenAI，指控其未经授权复制数十万篇文章用于训练 AI 模型，并索赔超过 2.5 亿美元。这是继《纽约时报》、The Intercept、Ziff Davis 等之后又一起针对 OpenAI 的版权诉讼，原告称 OpenAI 的商业成功建立在“大规模版权侵权”之上。OpenAI 暂未回应置评请求

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源教程

用 Amazon SageMaker HyperPod 实现多团队共享 GPU 集群的隔离与公平

AWS 发布了一篇技术博客，介绍如何在 Amazon SageMaker HyperPod 上构建多租户架构，让多个团队共享同一 GPU 集群。该方案结合 AWS IAM Identity Center 做集中认证、按团队划分 SageMaker AI 域、用 Kubernetes 命名空间隔离工作负载，并通过 HyperPod Task Governanc

10月8日周四 · 9 条
正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论产品发布

云栖大会观察：阿里下一阶段模型战怎么打

在2026年云栖大会上，阿里千问大语言模型负责人刘大一恒公布了Qwen4、Qwen4.5和Qwen5的路线图，计划将参数规模从Qwen3.8的2.4T推向5T-10T，同时通过稀疏注意力等新架构降低训练与推理成本。阿里还披露了让Qwen3.8-Max参与芯片设计、推理框架优化和模型训练等RSI实验的成果，并宣布下一代视频生成模型将于11月发布，图像、语音、音

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

研究者社会：为自主研究智能体群体设计制度

论文提出将大规模自主研究智能体群体组织为「研究者社会」，以明确的制度（角色、算力分配、评审、声誉、共享记忆）来管理数千个共享算力的持久智能体。作者以科学制度为蓝本，让首席研究员通过提案申请、独立评审和资助竞争算力，人类「市长」只分配资源而不指派任务。在一个一万名研究者组成的社会中，仅被要求改进语言模型预训练，某实验室报告称可用约减少30%的算力达到同等质量，

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

VLM教师能传递什么？视觉文档检索监督信号对比

该研究比较了在视觉文档检索中如何利用VLM教师模型的不同监督信号。在固定学生模型、数据、优化器和评估的条件下，让教师判断挖掘出的困难负样本（N）和分数蒸馏（S）比丰富正样本的描述对齐（D）和注意力接地（A）更有效，将ViDoRe v2的nDCG@5从基线提升至更高水平。研究还发现训练集中的单正样本标签严重不完整，标注者认为查询前四名挖掘候选中约两个是相关的但

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

MoR-MLLM：面向高效多模态大模型的递归混合框架

该论文提出 MoR-MLLM，一种基于 Mixture-of-Recursions（MoR）框架的计算稀疏多模态大语言模型。它通过自适应逐 token 递归，动态调整递归深度，将更多计算分配给视觉或语言上困难的 token，并跳过简单 token 的冗余操作。为稳定多模态场景下的递归稀疏训练，作者设计了三阶段 MoR-Tuning 策略和熵正则化损失。实验表

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

儿童ASR适应与成人保持：一项实证研究

该研究针对儿童及非母语者语音识别性能不足的问题，系统比较了全量微调、LoRA 与事后权重空间合并三种策略，在阿拉伯语和英语的编码器-解码器、编码器-CTC 及 AudioLLM 类 ASR 系统上评估儿童适应与成人保持的权衡。结果显示儿童适应确有必要，但直接微调常导致成人语音性能下降；双语适应比单语适应更稳定，权重合并（LERP 偏向成人保持、TIES 偏向

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

质疑问题本身：维持推理模型的自进化

该论文研究自进化推理模型在反复自我训练中出现的性能崩溃问题，指出自生成问题存在无效问题增多和数学等价问题重复两类质量缺陷，且基于词汇相似度的多样性控制无法识别数学等价问题。作者提出 R-Quest，利用问题有效性与新颖性反馈引导自进化：先训练求解器识别并拒绝无效问题，再用其判断引导提问者奖励并过滤训练数据，同时用冻结基座模型比较问题对以提供新颖性反馈。实验显

正文结构化主题已通过公开置信门槛
Apple Machine Learning Research一手来源研究

Apple 提出归一化轨迹模型 NTM：四步采样保留精确似然

Apple 机器学习研究团队（联合宾夕法尼亚大学、UIUC）提出 Normalizing Trajectory Models（NTM），将扩散模型的每个反向步骤建模为具有精确似然训练的条件归一化流，结合浅层可逆块与跨轨迹的深度并行预测器，可从头训练或从预训练流匹配模型初始化。其精确轨迹似然支持自蒸馏，使轻量去噪器仅用四步即可生成高质量样本，在文生图基准上四步

正文结构化主题已通过公开置信门槛
THE DECODER商业

扎克伯格 Biohub 牵头 18 亿美元计划构建预测细胞行为的 AI 模型

扎克伯格夫妇支持的 nonprofit Biohub 牵头一项总额 18 亿美元的计划，旨在构建能预测细胞行为的 AI 模型，以加速药物研发。Meta、Google DeepMind 和 Isomorphic Labs 合计出资 3 亿美元，美国能源部五年内投入超 5 亿美元用于实验室测量和算力，NIH 协调此前超 5 亿美元联邦资金构建的数据集并由 Bio

正文结构化主题已通过公开置信门槛
Microsoft Research Blog一手来源开源

微软开源 Agent Lightning v1.0：3,500 行轻量级 Agentic RL 框架

微软亚洲研究院开源了 Agent Lightning v1.0，一个约 3,500 行代码的轻量级 Agentic RL 框架，提出 Harnessed Agentic RL 训练范式，让部署时使用的 agent harness 直接参与强化学习，无需在训练框架内重新实现 agent。框架原生支持 Kubernetes，并给出端到端编码 agent 训练示例

10月7日周三 · 3 条
正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源教程

AWS 发布六周训练营 playbook：让非工程人员动手构建 AI

AWS Machine Learning Blog 发布文章，介绍其面向非工程背景业务人员设计的六周 AI 构建训练营。四名从未写过生产代码的客户面向岗位员工在导师和 Amazon Bedrock、AgentCore、Strands Agents SDK 等工具支持下，构建出多智能体财务顾问原型 WealthWise 并获第一名。文章总结了项目结构、五个成功

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

重新思考跨分词器在线策略蒸馏：从对齐覆盖到监督可靠性

该论文研究跨分词器（cross-tokenizer）的在线策略蒸馏（On-Policy Distillation），探讨扩大师生预测对齐覆盖范围是否能提升学习效果。作者在数学推理和代码生成任务上测试了三组异构师生模型对，发现严格的1:1对齐分组已覆盖大部分学生生成token，且共享词表保留了几乎全部概率质量。实验表明，将反向KL限制在学生选定的共享词表top

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

CogAdapt：认知信号引导的代码大模型稀疏适配

研究提出 CogAdapt 框架，利用人类阅读代码时的脑电（EEG）和眼动注意力数据学习程序级与 token 级先验，再结合冻结模型对任务的响应，决定微调时更新哪些 transformer 块及分配多少适配量。在 Qwen 和 GLM 上，该方法在 LiveCodeBench 和 BigCodeBench 上取得最佳 pass@1，相比常规微调在 LiveC