返回主题地图

数据与训练

技术方向 · 训练侧的门道:数据集构建、合成数据、预训练与后训练方法 · 共 926 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月19日周一 · 5 条
正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

可信但需验证:为离散扩散设计区域非均匀前向动力学

该论文重新将离散扩散的前向过程视为可设计空间,提出区域非均匀前向动力学:空洞位置采用标准吸收过程,用户提供的上下文以低速率均匀混合噪声进行腐蚀,使模型在训练中见过“已观测但不确定”的状态。作者对170M参数的预训练掩码扩散模型进行8000步微调(单张6GB笔记本GPU不到五小时),在明显随机腐蚀下检测召回率达0.96、精确率0.91,10%上下文腐蚀时填充t

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

从平行到分歧:语言模型对动名词化构式的学习

该研究利用语法工程方法构建了96种合成语言,每种语言在从句语序、名词短语语序、配列系统、补语系统和动名词化策略上有所不同,并用BabyLM语料作为共享语义输入,从零训练GPT-2-small模型。通过覆盖34种语法现象的定向最小对评测,发现模型在基本从句配置上表现出与自然语言类型学一致的学习偏好,但在补语系统和动名词化策略上出现分歧,甚至学会自然语言中罕见或

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

EnterpriseSynth:从 OpenAPI 规范零执行生成 SFT 与评估数据

论文提出 EnterpriseSynth,一个零执行框架,可将 OpenAPI 规范转换为监督微调轨迹和配对评估实例,无需调用底层 API。该框架采用四阶段流水线(规范解析、意图生成、轨迹合成、静态验证),并在 17 个真实与合成 API 上评估。实验显示,对抗性精炼将验证器对植入模式违规的检测率从 57–80% 提升至 98%;在 EnterpriseSy

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

测试时持续学习中的绑定特异性重学习节省

该论文研究参数更新的测试时持续学习(TTCL)智能体,提出用「重学习节省」(relearning savings)评估先前经验对后续更新的影响,而非仅看当前输出准确率。作者在 Qwen2.5-1.5B 上设置 Learned、Control、Wrong 三种匹配历史,经相同的无回放持续微调后,发现 Learned 在部分遗忘检查点重新习得目标比 Contro

正文结构化主题已通过公开置信门槛
智东西产品发布

广交会机器人从演示走向持续服务:动易科技展示多场景复用方案

智东西报道,广州人形机器人公司动易科技在第140届广交会上将机器人服务从羽毛球对打扩展至乒乓球、拳击互动及中英双语导览,并展示重载运输、特种巡检与灵巧操作方案。公司提出Embodied PhyStack四层技术栈,由通用大模型负责规划、PhyAgents端侧VLA模型实时决策、PhyCore运动控制、PHYBOT本体执行,实验显示收纳任务效率较纯大模型规划提

10月17日周六 · 6 条
正文结构化主题已通过公开置信门槛
The Verge AI政策

Meta 删除可能允许其抓取新闻网站的条款

Meta 在遭到批评后更新了其商业条款,删除了可能被解读为允许其抓取新闻网站内容用于训练 AI 的措辞。此前 Neiman Lab 和康奈尔大学教授 James Grimmelmann 等认为该条款意在免费获取抓取内容并绕过 robots.txt。Meta 通讯副总裁 Andy Stone 和发言人 Daniel Roberts 否认抓取方式有变,并称该条款

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

Hugging Face 发布基于 Z-Image 的人物 LoRA 测试仓库

Hugging Face 用户 ifmylove2011 发布 girlslike-zimage 仓库,提供基于 Tongyi-MAI/Z-Image Base 与 Turbo BF16 训练的人物 LoKR/LoRA 权重,采用全秩 LoKR 方案,并说明 zi 与 zit 后缀在 base/turbo 模型间的兼容性差异。作者给出 Turbo 模型 4-

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

DavidAU 发布基于 Qwen3.8-27B 的 Turbo Brilliance GGUF 微调模型

开发者 DavidAU 在 Hugging Face 发布了基于 Qwen/Qwen3.8-27B 的 GGUF 量化微调模型 Qwen3.8-27B-Turbo-Brilliance-50X-Reasoning-Instruct-NEO-MAX-MTP-GGUF。该模型主打所谓 Turbo Brilliance 系统,提供 27 种推理模式、27 种指令模

正文结构化主题已通过公开置信门槛
InfoQ AI ML and Data Engineering开源

Google 开源 EnvHarness:让智能体在动态环境中自进化学习

Google 研究人员开源了 EnvHarness 框架,它通过标准 reset()/step() 接口包裹静态环境,在不修改智能体、环境或评估系统的前提下动态调整训练环境。该框架包含 setup、rule、link 三类可组合组件,并引入 EnvRigger 自动分析智能体弱点并生成针对性修改。在 WebArena、SWE-bench Verified 和

正文结构化主题已通过公开置信门槛
NVIDIA Technical Blog一手来源产品发布

NVIDIA 发布 RTX Spark,单机完成 AI 编码测试部署

NVIDIA 发布 RTX Spark,一款面向 AI 开发的笔记本和紧凑台式机产品线,搭载 GB10 系统级芯片、Grace CPU 与 Blackwell GPU,最高 128GB 统一内存和 1 petaflop FP4 AI 算力,让开发者可在单机上完成编码、测试和部署。NVIDIA 同时宣布与微软合作推进 Windows on Arm 开发者生态,

正文结构化主题已通过公开置信门槛
TechCrunch AI模型发布

Elorian发布首个AI模型Glimpse,主打图像推理而非仅描述

帕洛阿尔托AI初创公司Elorian发布首个模型Glimpse,该模型以研究预览形式推出,提供API访问,聊天界面仅限候补名单。Glimpse的核心思路是让模型在推理过程中反复回到图像源,通过裁剪、抽帧或运行代码来测量和比较视觉内容,Elorian称之为“视觉暂存空间”。公司称该模型用几百块GPU训练,规模远小于前沿系统,在科学图表推理和短视频描述任务上表现

10月16日周五 · 9 条
正文结构化主题已通过公开置信门槛
The Verge AI政策

Meta 新条款或允许其免费抓取新闻网站内容训练 AI

Meta 更新商业条款,将于10月30日生效,允许其使用爬虫抓取与商业账户「关联」的网站内容,用于开发、改进、研究和训练其 AI 产品。据 Nieman Lab 报道,这可能让 Meta 绕过授权协议,免费获取在线出版商的新闻内容用于 AI 训练。不同意新条款的企业可能被停止使用 Meta 的商业产品。

正文结构化主题已通过公开置信门槛
量子位模型发布

优必选 Thinker-WM 登顶三大具身世界模型基准

优必选发布自研统一多模态世界模型 Thinker-WM,在 WorldOlympiad、EWMBench、WorldArena1.0 Track-1 三大具身世界模型基准评测中均取得第一名。该模型以 Unified Dynamic Transformer(UDT)为核心,将 RGB 视频、深度和机器人动作编码到同一共享表征空间联合演化,单套权重支持视频-动作

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

净化后对齐:提升扩散模型表示对齐效果

该论文提出局部外观净化(LAP)方法,通过移除预训练视觉编码器表示中可由局部外观预测的内容,仅对齐残差信息,从而提升扩散模型的生成质量。实验在MAE、AIMv2、CLIP、DINOv2、DINOv3五种编码器上验证,其中MAE提升最大,在ImageNet-256上使用SiT-B/2将FID显著降低。作者还给出信息论解释和一种可在训练前计算的常数读出诊断分数,

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

RecSoup:面向可控多目标推荐的高效模型合并方法

该论文提出 RecSoup,一种用于可控多目标推荐(CMOR)的轻量级两阶段模型合并方法。它先通过同时考虑目标特定重要性和跨目标相关性的剪枝策略缓解参数干扰,再通过可学习的偏好到系数映射实现自适应参数合并,从而在推理时动态控制目标权衡,无需联合重训练或额外生成模块。理论上证明其能完整遍历帕累托前沿,实验显示帕累托前沿质量与可控性提升,推理延迟比参数生成方法快

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

PRISM:基于特权兄弟图引导的多智能体拓扑设计

该论文提出 PRISM 方法,用于改进基于大语言模型的多智能体系统(MAS)的协作拓扑生成。现有方法通过对已验证图语料进行持续监督微调(SFT)来训练拓扑生成器,但语料只列出成功图而不排序,导致生成器偏向高频拓扑,且存在训练与推理的轨迹不匹配问题。PRISM 通过特权信息学习:教师模型借助零初始化低秩分支读取同一查询下另一个成功图(部署时不可用),让学生在自

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

MeddeX:结合RAG与Gemini Vision的LLaMA-3医疗报告分析系统

该论文提出 MeddeX,一个面向医疗报告分析的系统,将 QLoRA 微调的 LLaMA-3(8B)模型与检索增强生成(RAG)及 Gemini Vision 多模态层结合,用于生成准确、简洁且有证据支撑的医疗文档摘要。系统支持文本型 PDF、扫描图像 PDF 和放射影像,并引入垃圾文本检测、报告范围检索、纵向报告对比和惰性回填管线。与基础 LLaMA3-M

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

TransX:面向推荐系统的序列转导扩展技术报告

TransX 是一个面向工业推荐系统的序列转导框架,将序列编码、行为记忆和候选条件融合拆分为可独立扩展的计算角色,并配套设计了训练与推理基础设施。在线上 A/B 实验中,核心模型将 CTR 提升 6.02%、转化率提升 4.45%,后训练检索与偏好排序变体也分别带来提升。其协同设计的训练基础设施将监督目标吞吐提升 84%,分离式推理在同等流量和 SLO 下大

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

RLVR域外增益有多少来自答案格式?

该论文研究RLVR(可验证奖励强化学习)在域外基准上的增益有多少来自答案格式变化而非实际能力提升。作者用固定提取器重新评分四个已发布的7B SimpleRL基座-RL模型对,发现MMLU、MMLU-Pro和ARC-Challenge上82%的域外多选题增益是格式增益——基座模型本已在文本中给出答案,RL只是把答案移入\boxed{}中,而公开代码的提取器优先

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

泰勒级数展开实现固定循环状态的线性时间Transformer

该论文提出将注意力中的指数核展开为截断泰勒级数,并将每一项分解为张量幂内积,从而把因果历史压缩为固定数量的循环状态,每个状态每 token 仅需一次秩一外积更新,与上下文长度无关。该方法在截断核意义下无损,状态可跨块相加,因此预填充支持并行扫描。实测显示每 token 解码延迟恒定,精度随阶数指数提升但成本组合增长,最优为二阶,且查询和键归一化是必要前提。