返回主题地图

数据与训练

技术方向 · 训练侧的门道:数据集构建、合成数据、预训练与后训练方法 · 共 927 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

11月6日周五 · 2 条
正文结构化主题已通过公开置信门槛
THE DECODER开源

百度开源 2800 亿参数 ERNIE 5.5 Flash Base 基础模型

百度发布开源基础模型 ERNIE-5.5-Flash-Base,采用混合专家架构,总参数 2800 亿、每输入激活 140 亿,预训练使用 33.5 万亿 token,训练上下文最高 128K,微调与推理时可支持最高 100 万 token 上下文。该模型刻意不做微调或后训练,由开发者自行决定后续方向,后训练版本后续推出。百度称其在推理、代码和长上下文基准上

正文结构化主题已通过公开置信门槛
NVIDIA Technical Blog一手来源产品发布

NVIDIA DSX OS:配置、认证与运维 Kubernetes GPU 集群

NVIDIA 发布开源软件层 DSX OS,包含 AICR、NVCRE 和 NVSentinel 三个 Apache 2.0 项目,分别用于配置、认证和运维 Kubernetes GPU 集群。AICR 通过版本锁定配方建立可复现基线,NVCRE 用 AI 工作负载验证集群就绪状态,NVSentinel 监控健康并自动隔离故障节点。该方案旨在解决单块 GPU

11月5日周四 · 8 条
正文结构化主题已通过公开置信门槛
TechCrunch AI商业

Agility 成首家上市纯人形机器人公司,募资 4.65 亿美元

人形机器人公司 Agility 通过 SPAC 反向合并上市,成为首家纯人形机器人上市公司,并新募资 4.65 亿美元。公司目前有 9 个客户在工业场景部署 Digit 机器人,2026 年上半年收入仅 17.4 万美元、亏损 3.62 亿美元,但已拿到 30 个客户、价值 3 亿美元的 Digit 5 意向合同。其上市与后续能否兑现,取决于 Digit 5

正文结构化主题已通过公开置信门槛
量子位开源

百度开源文心5.5 Flash Base,同尺寸基准刷新SOTA

百度于11月5日正式开源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),采用MoE架构,总参数2800亿、每Token激活140亿,预训练使用33.5万亿Token,支持最长100万Token上下文。该模型在知识、推理、数学、代码、多语言和长上下文等基准上取得同尺寸模型SOTA,超过DeepSeek-V4-Flash-B

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论研究

上海交大邓志杰:扩散语言模型如何又快又好

上海交通大学副教授邓志杰在CNCC 2026上系统梳理了扩散语言模型在保证生成质量的同时提升生成速度的方法,涵盖LLaDA、Dream等基础路线,以及跨块并行生成(D2F、MultiBD)、后训练(CForce、LightningRL)和推理系统优化(Fast-dLLM、LoPA)。他提出应结合每轮提交token数(TPF)与每轮耗时(TPS)及正确率来评价

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

阿里提出 Omni-Encoder:共享 SigLIP2 统一四模态表示

阿里巴巴团队提出 Omni-Encoder,在单个 SigLIP-2 Vision Transformer 中以完全共享参数处理图像、视频、音频和音视频输入,并通过模态原生输入阶段、基于绝对时间戳的多模态旋转位置编码以及交替模态训练实现端到端联合优化。该方法在 16 个基准上取得有竞争力的结果,且联合训练相比各模态单独训练均有提升,表明跨模态正向迁移的潜力。

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

SKT 发布 688B 参数 MoE 模型 A.X K2

韩国公司 SKT 在 Hugging Face 发布 A.X K2,这是一个从零训练的大规模 MoE 语言模型,总参数 688B、每 token 激活 33B,是 A.X K1 的继任者。模型采用 Think-Fusion 训练方案,在单一模型中同时支持思考与非思考模式,并原生使用 FP8 训练、以块缩放 FP8 格式发布检查点。该模型属于韩国政府主权 AI

正文结构化主题已通过公开置信门槛
量子位商业

太初元碁异构众核算力体系入选世界互联网大会《科技之魅》

太初元碁的“异构众核算力体系—从E级智算集群到全栈自研开放AI生态”入选2026年世界互联网大会领先科技奖收录成果集《科技之魅》,列入关键技术组展示。该成果基于原创“主-从-微”三级异构融合算力架构,并配套自研“HPC+AI”双模式操作系统与SDAA软件栈,可将主流大模型适配周期从月级缩短至天级。太初元碁已参建国内多座大型智算中心并落地E级规模融合算力集群,

正文结构化主题已通过公开置信门槛
MIT Technology Review AI政策

德州民主党胜选或令AI数据中心建设停滞

德克萨斯州民主党在中期选举中赢得参议院席位、州长职位及州众议院控制权,当选者将数据中心作为核心议题并主张暂停新建。此前州长Abbott已于9月指示监管机构停止发放数据中心许可。此举可能影响Stargate Frontier、Nexus Hubbard等大型AI数据中心项目,加剧外界对AI基建放缓的担忧。

正文结构化主题已通过公开置信门槛
Hugging Face Blog一手来源研究

前沿实验室如何用 MOPD 合并 RL 专家,以及如何用 TRL 实现

Hugging Face 博客介绍多教师在线策略蒸馏(MOPD)技术,该技术通过为每个领域训练一个 RL 专家,再将多个专家融合回单一模型,解决单次 RL 训练难以同时提升多领域能力的难题。小米、DeepSeek、Moonshot、NVIDIA、Liquid AI、Mistral 等实验室已采用该技术构建模型。TRL 现已支持 MOPD,AsyncDisti

11月4日周三 · 8 条
正文结构化主题已通过公开置信门槛
THE DECODER研究

MIT 研究:GPT-6 Astra 可直接读写其他模型权重

MIT 研究人员在博客中展示,OpenAI 的 GPT-6 Astra 能直接读取并修改其他 AI 模型的权重,无需传统训练流程,他们将此称为“权重空间编程”。实验显示 Astra 仅凭原始权重就能识别模型训练过的游戏和语言,还能从零生成游戏模型,并在部分游戏中超过训练基线;在 Qwen3.5-0.8B 上仅改动 0.016% 的权重,就把 MATH-500

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论研究

Astra 微调 0.016% 权重,Qwen 数学成绩提升近 6 倍

MIT CSAIL 提出 Weight-Space Programming 方法,让 GPT-6 Astra 直接读取并编辑其他神经网络的内部权重。Astra 仅修改 Qwen3.5-0.8B 约 0.016% 的参数,就将其 MATH-500 成绩从 7.9% 提升到 48.1%,并大幅减少 3 万 Token 死循环。研究还展示了 Astra 仅凭权重识

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

相关性正在破坏你的梯度下降

该论文研究自然梯度下降中由层输入数据相关性产生的右因子,指出其本质是基变换而非曲率问题,可移出优化器并放入网络内部。作者提出三种等价实现形式:梯度预条件器、前向传播中的去相关线性变换,以及仅依赖局部信号、全部更新为Hebbian的循环动力学。该方法无需矩阵求逆或分解,仅需单个突触可用信息,可在神经形态硬件等分布式物理约束系统中应用,并在卷积和残差网络上验证了

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

重思 Text-to-SQL:大语言模型架构与策略综述

该论文是一篇关于大语言模型驱动 Text-to-SQL 的系统性综述,覆盖 2022 至 2026 年间的 100 多篇论文与技术资源。作者提出五类范式分类(上下文学习、监督与参数高效微调、智能体与工具增强编排、检索增强生成、强化学习),并按模型粒度、监督程度和推理风格刻画各类方法。文章还分析了评估指标、数据集与开放挑战,包括领域泛化、效率、真实部署及语义层

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

AttriSwarm:用代理集群实现跨页视觉归因

该论文提出 AttriSwarm,一个 agent-swarm 框架,用于跨页视觉归因:由 leader 负责全局跨页推理,子代理在隔离上下文中并行完成逐页归因,以缓解跨页上下文污染和串行开销。作者同时构建了带页面级与区域级标注的跨页问答数据集 AttriDoc,并对 leader 与子代理进行角色特定训练。在三个开源骨干模型和三个数据集上,答案准确率、页面

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

Sim2Real路侧LiDAR检测的几何精修与分布对齐

哥伦比亚大学Aman Upganlawar参加ECCV 2026 UrbanTwin Sim2Real LiDAR挑战赛LUMPI赛道,仅用合成数据训练PointPillars检测器并在真实路侧LiDAR上评测,最终综合得分0.4793(检测mAP 0.1333、真实感0.9126)。其贡献不在新架构,而在于诊断出小目标失败本质是定位问题,并据此做无参数几何

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

ReLU 神经网络逼近中参数增长的研究

该论文研究全连接前馈 ReLU 神经网络逼近光滑函数时参数范数的渐近增长问题,而非传统关注宽度或深度的通用逼近性质。主要结论是:对于一类具有当前最优逼近误差的 ReLU 架构,实现参数的范数最多呈多项式增长,且相对于归一化网络规模的增长率在多数情况下优于已有结果,尤其在高维输入时。该结果可用于神经网络训练的误差分析与一致性证明。

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

RoboColosseum:大规模真实环境下的物理智能评估框架

研究团队提出 RoboColosseum,一个分布式机器人策略评估框架,通过统一策略服务与标准化协议,在 124 个站点、多种真实环境中对 5 个视觉-语言-动作(VLA)策略和 3 个前沿 AI 智能体进行评测,覆盖 SO-101、Franka、Bimanual-YAM 和 G1 Humanoid 四种本体。结果显示,前沿智能体在零样本条件下可与专用 VL

11月3日周二 · 2 条
正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

PRISM 算法合并两个 Minimax-H3 微调模型

Hugging Face 用户 OliviaRossi 发布了 Minimax-h3 Singularity-x-10Eros-Max PRISM,这是将两个 Minimax-H3 Ref2VA 微调模型(WarmBloodAban/Minimax-h3 Singularity 与 TenStrip/10Eros-Max)通过自研 PRISM 算法(未使用

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

OpenEuroLLM 发布 Prelude-base 9B 中间训练检查点

OpenEuroLLM 在 Hugging Face 发布 Prelude-base 9B 的中间训练检查点,这是一个正在 CINECA Leonardo 超算上训练的 9B 稠密基础模型,采用类 Qwen3 架构,训练数据为 10T token,覆盖 36 种欧洲语言。检查点按 Megatron 迭代分支发布,当前均为 WSD 调度稳定阶段、尚未冷却的版本