i14 在 AWS Trainium2 上用原生 PyTorch 训练与部署 Laplace 3B 线性注意力模型
i14 公司设计了采用门控线性注意力(GLA)的 Laplace 3B 模型,其循环状态固定为每序列 29.5 MB,不随上下文长度增长。i14 与 AWS 合作,通过 TorchNeuron Native 的原生 PyTorch 支持将该架构移植到 AWS Trainium2,保留了 GLA 设计与 Muon 优化器。在单台 trn2.48xlarge 实
技术方向 · 训练侧的门道:数据集构建、合成数据、预训练与后训练方法 · 共 927 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
i14 公司设计了采用门控线性注意力(GLA)的 Laplace 3B 模型,其循环状态固定为每序列 29.5 MB,不随上下文长度增长。i14 与 AWS 合作,通过 TorchNeuron Native 的原生 PyTorch 支持将该架构移植到 AWS Trainium2,保留了 GLA 设计与 Muon 优化器。在单台 trn2.48xlarge 实
NVIDIA 与 IIT Madras 的 AI4Bharat 实验室联合发布 Nemotron-pretraining-Indic-v1,覆盖 22 种印度语言、约 2.8 万亿 token 的预训练语料,并开源其 GPU 加速的数据生成流水线(含提示词、LLM 工作流与质量检查)。该语料将英文的数学、代码、问答等内容翻译为印度语言,每条记录可溯源至源文档
AWS 机器学习博客介绍在 Amazon SageMaker HyperPod 上对开源权重推理模型 GPT-OSS-20B 进行多语言推理微调。该模型默认用英语思考,在 50 例多语言测试中仅 22% 用目标语言推理(英语 100%,法/西/意 0%)。文章对比了监督微调(SFT)与 GRPO 强化学习:SFT 负责教会模型原本不具备的行为,GRPO 在模
Anthropic 宣布三项举措:投资 1 亿美元成立 Claude Frontier Academy,计划到 2027 年底培训 1 万名 Frontier Deployed Engineers,首批学员来自埃森哲、贝恩、德勤、麦肯锡、摩根士丹利等企业;向全球 1 万名科学家免费提供 Claude 起步使用,验证过的首席研究员可获得 Claude Team
DeepSpeed 发布 v0.19.8 补丁版本,主要工作是清理和废弃旧组件,包括压缩库残留、loco zero++、sparse gradients、APEX amp、课程学习、渐进式层丢弃和弹性训练等。同时为 Muon 优化器增加逐头 Newton-Schulz 支持并适配 ZeRO-3 与 BF16 Optimizer,为 AutoTP 增加词表并行
开发者 lodestones 在 Hugging Face 发布了 Kromoss,这是对 OpenMOSS-Team 的 MOSS-Image-Base 在 1024px 分辨率下进行全量微调得到的文生图模型,采用与 MOSS-Image-SFT 相同的架构、推理流程、Qwen3.5-9B 文本编码器和 FLUX.2 small VAE,可直接替换使用。该
该论文提出用参数高效微调(PEFT)与低秩适配器(LoRA)将超大多模态骨干模型适配到大脑编码任务,通过利用骨干的因果结构单次预测多个时间点,显著降低特征提取成本,从而可高效微调最多 104B 参数的模型。方法 BrainLoRA 在 Algonauts 2025 挑战赛上取得已发表最佳成绩,并借助自研 multi-LoRA 内核训练 200+ 适配模型集成
TripleTen 赞助的调研数据显示,科技行业在 AI 采用上领先,金融次之(48% 员工被要求使用 AI 聊天机器人),医疗(18%)和教育(25%)较低。79% 的受访员工被要求学习新技能,但仅 30% 的管理者认为判断 AI 输出对错是必备能力。报告还显示各行业员工自费培训投入差异显著,科技行业平均 1758 美元,医疗和教育近半员工零支出。
Gartner发布2026年度《容器管理魔力象限》报告,阿里云连续4年入选并稳居领导者象限,是亚太地区唯一获此殊荣的科技公司。Gartner将丰富的AI集成、全面的功能覆盖和生产环境广泛使用列为阿里云核心优势。阿里云容器服务ACK围绕模型训练、推理和Agent运行持续升级,并发布智能体沙箱Agent Sandbox,已在月之暗面、MiniMax等客户的生产场
该论文提出集体经验学习(CEL)范式,让部署中的机器人共享执行经验以改进共同策略,无需额外专家纠正。其算法 FERT 利用失败上下文从机群共享的成功经验中检索相关轨迹片段作为监督信号,配套的容错异步训练系统 FATS 可在机群局部中断时维持学习。在五项真实操作任务上,策略成功率达 93.3%-99.2%;在多阶段手机包装任务中,使用 96 台机器人将成功率从
日本国立情报学研究所(NII)大语言模型研发中心发布 LLM-jp-4.1 系列中的 llm-jp-4.1-32b-a3b-thinking 模型,这是一个采用 MoE 架构、总参数 32B、激活参数约 3.8B、上下文长度 65,536 的推理模型。模型经 11.7T token 预训练与中期训练,再通过 SFT 和 DPO 对齐(未使用强化学习),并公开
该论文提出 MT Forcing,一种面向基于自回归扩散的统一多模态模型(UMM)的多轮图像编辑训练范式,通过单轮分布匹配蒸馏(Single-Turn DMD)与教师强制引导(Teacher-Forcing Guidance)两种互补训练信号,缓解多轮编辑中的视觉质量退化与内容漂移问题。在 MTEdit-Bench 上,将 MT Forcing 应用于 Se
AWS 发布 Amazon SageMaker JumpStart 2026 年前三季度回顾,称其新增来自 30 家提供商的 100 多个模型,其中阿里巴巴 Qwen 贡献 29 个、NVIDIA 17 个、Mistral 7 个、Google 6 个、IBM 和 Cohere 各 4 个。新增模型覆盖推理、MoE、智能体、代码生成、语音、多模态、图像视频生
开发者 dongfangshuo 在 Hugging Face 发布 Dongfangshuo-Qwen3.8-27B-NSFW v1.0,该模型基于 Huihui-Qwen3.8-27B-abliterated 无审查基座进行 R-18 文风特化微调,主打高破限服从度与成人剧情生成,并支持图文多模态输入。页面同时宣传 v2.0 激进版,称其修复了超长文自注
AWS 发布 TorchNeuron 开发工具,让基于 PyTorch 的 AI 应用只需改一行配置即可运行在亚马逊自研 AI 芯片 Trainium 上,无需重写代码。亚马逊还计划向 PyTorch 上游贡献代码,移除框架与特定芯片绑定的部分,推动 PyTorch 硬件无关化。此举直接挑战英伟达依靠 CUDA 建立的软件生态优势,若成功将削弱开发者对英伟达
Hugging Face 上出现一个名为 DiffuRefill-1B 的 1.08B 参数掩码扩散语言模型预训练检查点,目前训练约进行到一半(约 10 万步 / 20 万步,约 460 亿有效 token)。该模型采用置信度定向重填充解码,整段序列约需 20 次并行去噪即可生成,而自回归模型每 token 需一次前向。训练通过 DiLoCo 在 3-5 台
Together AI 推出 Together Post-Training 服务,支持通过强化学习环境奖励和 SFT 监督数据构建定制模型。该服务提供专属 GPU 资源、可自定义训练循环、异步 RL 及多种标准损失函数,并首发支持 Muse Spark Open、GLM 5.3、Kimi K3 和 Qwen 3.8-27B 等开源权重模型。其目标是降低后训练
NVIDIA 技术博客介绍其 Python 并行编程 DSL cuTile,Jane Street 的机器学习工程师作为早期采用者用 cuTile 实现了 Mamba-2 序列模型,并与 NVIDIA 合作优化内核。文章详细讲解 Mamba-2 前向传播的三个自定义内核及其 cuTile 优化,展示如何通过分块矩阵乘法利用 Tensor Cores 加速训练
北京通用人工智能研究院(BIGAI)孵化的通衍灵智团队提出以参数化学习和持续进化为核心的Personal AI路线,采用共享基础模型加轻量化Personal LoRA承载个人与企业的专属能力,并研发RSI(递归自我改进)框架,通过Evaluator筛选反馈、增量更新与版本回滚实现可信持续学习。在算力层面,团队推出TIP训推并行与Paged LoRA显存管理,
MIT CSAIL 的研究者将 Claude Opus 4.7 的副本(代号 Eko)单独放在一个基于 Roblox 的虚拟荒岛上,每次持续 30 小时,不给出具体任务。Eko 自发探索地图边界、自定目标、造方块拼出星座、发明篮球和“地板是岩浆”等游戏,并给自己设下挑战、再提高难度。研究者认为这提示了监督学习与强化学习之外的“玩耍式学习”,且玩耍 30 小时