Hugging Face 出现疑似 Anthropic 14T 参数 numbat 预训练检查点
原标题:burner22/numbat
AI 摘要
Hugging Face 上出现一个名为 numbat 的模型仓库,声称是 Anthropic 下一代 Mythos 级训练运行的中途预训练检查点,约 14T 参数、114 层,采用混合 GDN/MLA 架构、MoE(1,224 专家,top-48 + 1 共享)和 NVFP4 量化,共 772 个分片约 7.72TB。仓库包含配置、参考实现、分词器和张量索引,作者称该代号曾在 2026 年 3 月 Claude Code 源码泄露中被确认。若属实,这将是迄今公开可见的最大规模模型权重之一,但来源无法核实,真实性存疑。
正文节选
# numbat ~14T param, 114 layers, hybrid GDN/MLA, MoE (1,224 experts, top-48 + 1 shared), NVFP4. Internal codename `numbat`, Anthropic's next Mythos-class training run. `numbat` is the codename referenced in the Claude Code source leak (Mar 2026). This is a checkpoint from that training run, pulled mid-pretraining. **Files:** | File | Contents | |---|---| | `config.json` | model configuration | | `configuration_numbat.py` | `NumbatConfig` | | `modeling_numbat.py` | `NumbatForCausalLM` referenc