返回全部动态

张一鸣拒绝蒸馏捷径,字节豪赌10万亿参数模型

原标题:赌注十万亿:字节拒绝走蒸馏捷径背后,张一鸣的长期主义有多狠?

雷峰网 AI科技评论商业质量 68

AI 摘要

字节跳动创始人张一鸣在Seed全员会上明确拒绝通过蒸馏方式追赶前沿大模型,坚持从头训练以追求长期技术主权。尽管字节在算力、数据和资金上具备优势,其Seed 2.1 Pro在全球榜单仅列第21位,落后于其他中国模型。字节计划训练10万亿参数的超大模型,并投入超2000亿元建设算力基础设施,以规模跃迁实现技术领先。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

0 作者丨高允毅 编辑丨岑 峰 近日,The Information爆出,在两周前的 Seed 全员会上,张一鸣罕见发声,明确拒绝以蒸馏手段追赶前沿大语言模型。他的态度很坚决:“字节跳动应该愿意为了长远目标牺牲一些短期利益。” 最新一期 Artificial Analysis 全球 LLM 排行榜中,月之暗面 Kimi K3 Max 位列第二,阿里 Qwen 3.8 Max 位居第四,智谱 GLM 5.2 Max、DeepSeek V4 Flash 分列第七、第八,中国模型已占据全球前十近半席位。反观字节 Seed 2.1 Pro,仅排在第 21 位,远低于其他中国模型。 论钱,字节年利润规模位居互联网头部;论人,Seed 团队汇聚了搜广推体系成长起来的顶尖算法人才;论算力,数万张 GPU 集群的智算中心正在全国铺开;论数据,抖音与 TikTok 坐拥全球最大的原生内容池。 样样不缺的字节,为什么在大模型榜单上追不上? 据字节员工透露,公司内部认为,字节不愿蒸馏,被认为是其大语言模型落后于中国其他人工智能实验室的原因之一。 01 蒸馏(Distillation),通俗说就是拿其他大模型


发布时间:2026-08-07 23:29
抓取时间:2026-08-08 02:07
来源机构:雷峰网
阅读原文leiphone.com