返回主题地图

数据与训练

技术方向 · 训练侧的门道:数据集构建、合成数据、预训练与后训练方法 · 共 926 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月6日周二 · 6 条
正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

FLUX.1 Kontext可控灯光开关的LoRA方向提取

该研究提出一种针对流匹配扩散模型的微调方法,用于在FLUX.1 Kontext中实现可控的室内灯光开关编辑,无需大规模训练数据集。方法将开灯与关灯分解为两个独立任务,分别训练LoRA适配器,并提出LoRA方向提取训练法以提取适配器在扩散模型流场中的纯方向,同时引入专门损失函数保证逆变换的真实性。生成的增量图还可用于更精确地调整光照颜色和色温。

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

AEON-7 发布 Qwen3.6-27B 无审查 BF16 模型

Hugging Face 上出现 AEON-7 发布的 Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 模型卡,基于 Qwen/Qwen3.6-27B 进行 abliteration(去除拒绝行为)微调,采用 Apache-2.0 许可,支持多语言、工具调用、推理与视觉。模型卡说明该版本已被 Qwen3.8 版本取代,并提

正文结构化主题已通过公开置信门槛
Cerebras Blog一手来源研究

Cerebras 详解 MoE 规模化:WSE 单设备训练万亿参数模型

Cerebras 发布技术博客,讨论如何在真实硬件上高效扩展 MoE 稀疏模型。文章指出,传统 GPU 实现因需将所有专家加载进显存而受限于内存,业界常用专家并行(EP)来缓解,但会带来负载均衡与模型质量之间的张力,以及随专家数量增加的通信开销。Cerebras 称其 WSE 凭借约 900 倍于单 GPU 的片上 SRAM 和权重流式(weight str

正文结构化主题已通过公开置信门槛
Apple Machine Learning Research一手来源研究

RISED:面向智能体多环境选择与自蒸馏的评分标准

Apple 机器学习研究团队提出 RISED 方法,利用跨环境共享的评分标准(rubrics)来指导多环境 LLM 智能体的在线数据选择与策略监督。该方法通过 LLM 评判器为每条 rollout 打上行为标签,据此选择与混合环境批次行为构成一致的数据,并用正向 rubric 作为自蒸馏教师的特权上下文、负向 rubric 引导后续生成避开失败模式。实验显示

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

QUASAR 发布 Qwen3.8-27B NVFP4 量化模型,496 层全量化

研究团队发布 QUASAR-QAT/Qwen3.8-27B-QUASAR-NVFP4,这是基于 Qwen/Qwen3.8-27B 的 4-bit NVFP4 量化版本,采用名为 QUASAR 的量化感知训练(QAT)方法直接训练 NVFP4 权重,无需自定义推理路径。该模型体积 19.7 GB,将全部 496 个 transformer 线性层量化为 NVF

正文结构化主题已通过公开置信门槛
THE DECODER模型发布

Reka AI 发布全模态模型 Rho-1,统一文本图像视频与机器人控制

Reka AI 发布 19B 参数的全模态模型 Rho-1 研究预览版,可在单一神经网络中处理并生成文本、图像、视频和机器人控制动作。与将任务路由到专用模型的做法不同,Rho-1 将所有模态作为 token 放入共享上下文窗口,无需工具调用或外部模型,可实时生成连续视频并即时响应新指令。为缓解机器人训练数据稀缺,Reka AI 构建逆动力学模型从普通互联网视

10月5日周一 · 5 条
正文结构化主题已通过公开置信门槛
THE DECODER模型发布

Aleph Alpha 发布开源权重模型 Kolibri,主张欧洲 AI 主权

德国 AI 公司 Aleph Alpha 发布开源权重模型 Kolibri,这是一个 78 亿参数的德英双语模型,采用混合专家架构,每个 token 约激活 30 亿参数。公司称其在质量与运营成本上处于帕累托前沿,训练数据中德语占 21.3%,并使用中国模型生成合成数据。模型面向公共管理、航空和工业领域,依据欧盟法律并考虑 EU AI Act 开发,支持最高

正文结构化主题已通过公开置信门槛
Hugging Face Blog一手来源开源

Hugging Face 发布 Olmo-core 3:面向大型 MoE 的开放可扩展训练基础设施

Hugging Face 发布 Olmo-core 3,这是其大模型训练框架的重大升级,核心是重新设计的开放 MoE 训练系统,可扩展到万亿参数规模。它从 FSDP 切换到基于 DDP 的系统,结合专家并行、流水线并行、分布式优化器以及 MXFP8 低精度格式等优化。在 8 张 NVIDIA B300 GPU 上,470 亿参数 MoE 吞吐量达每 GPU

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

学习蛋白质折叠能否泛化到更广泛的推理?

研究者构建了 FoldingCorpus 蛋白质问答数据集与 Fold2Reason 后训练方法,通过离散结构答案和连续 3D 几何两种信号进行训练。在 FoldBench 上,Fold2Reason 的结构预测得分达到 Qwen3.5-9B 的 2.7 至 3.5 倍,并在空间、图、科学和通用推理等全部 10 个基准上均有提升,宏平均准确率从 45.09%

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

SymCE:逐定理符号验证器生成反例,模仿有害而强化修复

该论文提出 SymCE,一个包含 4,707 个假数学猜想及逐定理 Python 验证器的确定性反例生成环境,验证器同时充当强化学习奖励函数。作者发现仅用反例数据做 SFT 会导致「模仿陷阱」,使模型识别真定理的能力从 0.27 崩溃至 0.00,而基于验证器的 RLVR 可修复该问题并提升至 0.66。训练后的 Qwen3-4B 在域内反例任务上超越所有评

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

DeskForge:面向计算机使用代理的桌面环境密集监督

研究者提出 DeskForge,一个可控的 Linux 桌面环境,通过组合真实应用并系统变化应用状态、内容、窗口布局、外观和分辨率,融合截图、无障碍树和窗口几何信息生成密集元素标注。基于此构建了包含 120 万条桌面观测、1.597 亿元素实例的 DeskForge-1M 数据集,并在 20 万条 grounding 样本上微调四个视觉语言模型。结果显示所有

10月4日周日 · 2 条
正文结构化主题已通过公开置信门槛
Hugging Face Blog一手来源模型发布

AutoTrust 发布开源决策模型 JEV-27B,性能略超闭源 Jev 1.13

AutoTrust AI 发布开源权重模型 autotrust/JEV-27B(Apache-2.0),在六个公开决策基准上平均得分 84.07,比闭源托管模型 TypeSafe Jev 1.13 高 0.22 个百分点。该模型采用「专家块」方案,将 Qwen3.8-27B 主干冻结,仅训练 1.089 亿参数的 System 1 决策块,同时保留原模型的生

正文结构化主题已通过公开置信门槛
量子位商业

马斯克确认与台积电洽谈Terafab芯片制造合作

马斯克10月3日在X上确认正与台积电讨论Terafab芯片制造合作,此前英特尔是唯一被正式点名的合作伙伴,计划提供14A(约1.4nm级)工艺。Terafab是Tesla、SpaceX与xAI共同推进的超大规模垂直整合芯片项目,一期投资168亿美元,长期潜在总投资可达1190亿美元,目标年产约1TW AI算力。媒体披露台积电可能以直接运营、小股东加运营或纯技

10月3日周六 · 4 条
正文结构化主题已通过公开置信门槛
THE DECODER观点

DeepMind 研究者提出「人工共生智能」替代奇点论

DeepMind 相关研究人员 Benjamin Bratton、Blaise Agüera y Arcas 和 James Manyika 发表文章,提出「人工共生智能」(Artificial Symbiotic Intelligence)概念,认为 AGI 将从人与 AI 智能体协作的社会系统中涌现,而非由单一超级智能驱动。文章引用两项预印本研究,指出

正文结构化主题已通过公开置信门槛
量子位商业

DeepSeek弹性计算团队扩招,公开Agent训练沙盒基础设施DSec

DeepSeek 弹性计算团队(DSec)大规模扩招,尤其需要资深工程师,并发布技术报告介绍其面向大规模 Agent 训练的沙盒基础设施。DSec 单个分片约 160 台服务器、3 万 CPU 核心、250TB 内存,每天服务约 300 万个沙盒,高峰期同时在线超 38 万个。该基础设施支撑 DeepSeek-V4 全部训练、评测和数据预处理流程,并通过镜像

正文结构化主题已通过公开置信门槛
THE DECODER模型发布

Cloudflare 发布 Clef 决策模型,称 AI 智能体无需人类介入

Cloudflare 发布了两款面向 AI 智能体的决策模型 Clef 和 Clef-flash,直接对标 TypeSafe AI 的 Jev。这两款模型不生成文本,而是对预定义答案选项分配概率,供下游系统自动执行路由、升级或转人工等操作。Cloudflare 称 Clef-flash 中位响应时间约 39 毫秒、Clef 约 209 毫秒,均快于 Jev

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Security-SLM:基于 Gemma 4 E2B 的本地网络安全微调模型

Hugging Face 上发布了 Security-SLM-Gemma-4-E2B-it-GGUF,这是一个基于 Gemma 4 E2B Instruct 用 LoRA rank 16 微调、以 GGUF Q4 K M 格式分发的网络安全助手模型,可在本地通过 Ollama 等离线运行,面向红队、蓝队和 SOC 场景。模型使用 505 样本的 agenti

10月2日周五 · 3 条
正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源产品发布

在 Amazon SageMaker AI 上用多轮 RL 微调搜索智能体

AWS 在 Amazon SageMaker AI 上推出多轮强化学习(MTRL)能力,用于微调搜索智能体。文章以 Qwen3.6-27B 为例,结合 BM25 与向量检索工具,在 FRAMES、BRIGHT 和 Enterprise RAG 数据集上训练,使小模型获得接近前沿模型的多轮检索可靠性,同时保持更低延迟与成本。

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

OneStreamer:统一流式视频交互中的感知、记忆与主动响应

研究团队提出 OneStreamer,一个 4B 参数的流式视频交互模型,通过共享的主动生成过程统一感知、记忆与主动响应。其 Proactive Hierarchical Caption Memory(PHCM)生成带时间戳的局部细节描述与事件摘要,使模型无需回看历史视觉特征即可保留可复用的事实记忆;Proactive State Transition Le

正文结构化主题已通过公开置信门槛
Google Research Blog一手来源研究

Google 发布基于 TEE 的可验证隐私联邦学习系统

Google Research 宣布推出新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可外部验证和审计的隐私保证,并将计算转移到服务器端以提升训练速度、准确率和设备覆盖。Gboard 已采用该系统部署英语和日语下一词预测模型,训练时间从过去的 1-2 个月大幅缩短。系统通过 Rekor 公开透明日志发布访问策略,相关 KMS 和数据处理二进制