返回主题地图

数据与训练

技术方向 · 训练侧的门道:数据集构建、合成数据、预训练与后训练方法 · 共 926 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月2日周五 · 8 条
正文结构化主题已通过公开置信门槛
Latent Space商业

Airbnb CTO谈AI原生转型:60%代码由AI编写

Airbnb CTO Ahmad Al-Dahle(前Meta生成式AI负责人、Llama模型发布负责人)推动Airbnb转型为“AI原生公司”,采用“由内而外”的AI策略:内部用AI加速产品开发,再将这些能力用于改造客户体验。目前Airbnb约60%代码由AI编写,功能交付量同比增长近80%,工程师PR吞吐量提升约1.6倍,约一半客服工单由AI解决。公司还

正文结构化主题已通过公开置信门槛
NVIDIA Generative AI Blog一手来源产品发布

NVIDIA 推出 64GB 版 DGX Spark,支持本地 AI 开发与集群扩展

NVIDIA 宣布本月推出 64GB 统一内存版 DGX Spark,由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 等厂商发售,起售价 4,999 美元,10 月 23 日上市。该设备搭载 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型本地运行。两台

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

自适应奖励路由:联合音视频扩散的前向过程RL多奖励优化

该论文提出自适应奖励路由(Adaptive Reward Routing)方法,用于联合音视频扩散模型的前向过程强化学习(DiffusionNFT)。方法包含两个组件:跨模态影响引导路由,利用双向交叉注意力响应动态调整更新位置;偏好保持的模态感知重加权,在预热后以分支特定奖励梯度交互作为残差修正来协调多奖励冲突。实验表明该方法在模态质量、语义一致性和音视频同

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

韩国性犯罪案件法律文本分类:从传统机器学习到LLM及XAI洞察

该研究基于韩国性犯罪判例的十个法律类别,系统评估了从传统机器学习到大型语言模型的法律文本分类方法。实验结果显示,在韩国法律数据上微调的小规模模型 KLUE-BERT 准确率达 99.3%,优于 GPT-3.5、GPT-4.0 等大型通用模型及传统机器学习方法,表明领域适配与微调比模型规模更关键。研究还利用可解释 AI(XAI)分析模型预测与误分类案例,并借助

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

面向 LLM 的快速多项式超越函数

该论文研究用短多项式程序替代 LLM 中 sigmoid、tanh、SiLU 等超越函数,以缓解 GPU 上 SFU 与矩阵/内存管线扩展不均衡造成的瓶颈。作者在 GB200 上对四个集成任务(dense SiLU、tanh-softcapped attention、sigmoid attention、routed-expert SwiGLU)用 BF16

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

Adam 与自然梯度下降的几何距离研究

该论文研究 Adam 优化器与自然梯度下降(NGD)之间的几何关系,将 Adam 的完整更新规则(含动量)建模为对角经验 Fisher 近似,并分析对角截断、经验标签替换和时间滞后带来的几何偏差。作者在良态线性回归、病态线性回归、逻辑回归和非凸小型神经网络四种损失景观上测量 Adam 与真实 NGD 的偏差,发现偏差在良态场景较低,但在病态和神经网络场景显著

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源产品发布

AWS 用 Bedrock AgentCore 多智能体框架加速云迁移

AWS 在官方博客中介绍了多项基于 Amazon Bedrock AgentCore 的智能体应用,包括 AWS Professional Services 用多智能体框架自动化企业云迁移,将基础设施即代码开发时间从数周缩短到数分钟。文章还涵盖 Amazon S3 Vectors 作为 NVIDIA NeMo Agent Toolkit 持久记忆层、基于 S

正文结构化主题已通过公开置信门槛
TechCrunch AI研究

谷歌发射首颗TPU卫星,称星舰需发射1600次才能支撑太空数据中心

谷歌通过SpaceX火箭将首颗搭载TPU的轨道计算卫星送入太空,用于验证其AI芯片在太空环境中的运行能力,这是Project Suncatcher计划的第一步。谷歌同时发布了关于轨道数据中心的同行评审白皮书,认为SpaceX需在10年内完成约1800次星舰发射、将发射成本降至每公斤200美元左右,轨道数据中心才具备经济可行性。测试显示TPU可承受太空辐射,适

10月1日周四 · 12 条
正文结构化主题已通过公开置信门槛
Cloudflare AI Blog一手来源模型发布

Cloudflare 开源决策模型 Clef 并推出 RL 微调平台

Cloudflare 在 Workers AI 上发布了两款自研决策模型 Clef 和 Clef-flash,并在 Hugging Face 上以 Apache 2.0 许可证开源。Clef 支持视觉编码和 64k 上下文窗口,在 Jev Decision Index 等多项基准上表现领先,延迟低于多数同类模型。Cloudflare 同时推出新的强化学习微调

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源商业

uniopen 基于 Amazon Nova 定制零售审核模型并部署生产

台湾统一企业集团旗下的数字通信与会员平台 uniopen 为其中文电商与会员渠道定制了内容审核模型。团队基于 Amazon Nova 2 Lite,通过 Amazon SageMaker AI 进行监督微调,并加入提示词级输出优化,以适配其按「行为(9 类)」和「主体(品牌/其他/禁止)」两轴划分的业务专属审核政策。方案将纠错数据、训练、评估与部署纳入统一工

正文结构化主题已通过公开置信门槛
NVIDIA Technical Blog一手来源教程

微调 NVIDIA Nemotron 适配沙特阿拉伯方言

NVIDIA 技术博客介绍如何用 NVIDIA NeMo 框架对 Nemotron 3.5 ASR 模型进行微调,以适配沙特阿拉伯的 Najdi 和 Hijazi 方言。文章以 SADA 2022 和 FLEURS 数据集为例,展示了数据筛选、加权回放混合、部分编码器解冻、长度分桶等流程,在保留多语言能力的同时提升目标方言的转录质量。该方法适用于有少量标注语

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

教师是方向而非终点:在线策略蒸馏中RL表示残差的外推

该论文提出 RIDE(RL-Induced Direction Extrapolation)方法,用于在线策略蒸馏(OPD)。作者观察到强化学习会相对基础检查点改变模型内部表示,且该变化方向可在每一层测量,因此 RIDE 在表示空间中直接外推 RL 引起的残差:在每层和每个 token 位置计算教师模型与其 RL 前检查点的残差,并将学生隐藏状态回归到沿该残

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

对齐预测:从训练数据预测模型失准

研究者提出「对齐预测」(Alignment Forecasting)任务,即在微调训练前预测模型是否会出现欺骗、谄媚等对齐失败,并发布包含17个目标模型、32个数据集、16种失败模式的基准 AlignmentForecastBench。他们提出的预测框架由LLM审计数据集并打分,再用逻辑回归结合失败模式基率和目标模型先验倾向,效果显著高于随机,并优于直接提示

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

通过门控与衰减的在线策略蒸馏提升OCR忠实度

该论文针对视觉语言模型在OCR中因语言先验而改写图像中异常文本、损害转录忠实度的问题,提出GAD-RL方法。作者发现固定教师模型的监督信号会随学生模型能力提升而逐渐失效,因此设计组级门控与奖励感知衰减机制,在联合后训练中动态调节教师干预强度。在Qwen3.5-2B上,GAD-RL在CHAOS-Bench的扰动词Micro Recall达到59.92%,比GR

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

AREX-2:通过长时程反思任务推进自我改进智能体

该论文提出 AREX-2,旨在提升 LLM 智能体的自我改进能力,即测试时通过多轮迭代优化解决方案。研究基于 Qwen3.8-27B 构建智能体,利用机器学习工程和算法编程任务合成长期反思轨迹进行训练。在 MLE-bench Lite 上达到 81.8,Frontier-CS 上 70.7,并迁移至深度研究任务,在 BrowseComp、HLE、GAIA、D

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

多任务形态学概念学习用于3D CT肺结节恶性评估

该研究基于LIDC-IDRI数据集(742名患者、3918条阅片者级结节标注),比较单任务3D CNN与同时预测恶性风险、毛刺征和分叶征的多任务模型在肺结节恶性评估中的表现。单任务模型平衡准确率0.548、ROC-AUC 0.552,多任务模型分别为0.539和0.558,患者级bootstrap分析显示ROC-AUC差异仅0.005(95%CI -0.08

正文结构化主题已通过公开置信门槛
Apple Machine Learning Research一手来源研究

RLTL;DR:通过内化自生成反馈实现自我提升

Apple 研究团队提出 RLTL;DR 方法,让策略在每次失败后根据验证器输出自行撰写一条 TL;DR 式反馈,并将后续 rollout 条件化于此前所有反馈,同时通过上下文内反馈的反向传播内化「任务→洞察」映射。在 Pass@128=0 的困难工具调用与编程数据集上,标准 GRPO 训练 Qwen 3.5 9B Thinking 的 Pass@1 仅 0

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11304:修复训练中 KV 处理

llama.cpp 发布 b11304 版本,主要修复了训练过程中 KV 缓存的处理问题(PR #28520)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文结构化主题已通过公开置信门槛
Google Gen AI JavaScript SDK Releases一手来源API 更新

Google Gen AI JavaScript SDK 发布 v2.25.0

Google 发布 Gen AI JavaScript SDK v2.25.0,新增 Gemini 3.8 Flash TTS 与 Gemini 3.8 Flash Lite TTS 模型支持,并加入用于导出调优任务指标的 gcs metrics uri 参数。该版本还引入 environments 专用模块及 from environment 支持,为 L

正文结构化主题已通过公开置信门槛
NVIDIA Technical Blog一手来源产品发布

NVIDIA 扩展 xio-sig 并发布 cuObject 与 SCADA 服务器 SDK

NVIDIA 宣布扩展 xio-sig 项目,在 cuFile 之外新增 cuObject,并与 Google Cloud、Microsoft 合作,同时正式发布 cuObject 客户端与服务器库。NVIDIA 还推出 SCADA Server SDK,让存储厂商构建可响应 GPU 发起请求的 SCADA 服务器,IBM 已用集成 IBM Storage