Latent Space· swyx .ai·· 2 小时前精选AI 评分78
Thinking Machines 发布 Inkling 2 Small:594B 总参数 17B 激活,68 小时预训练 12T token
[AINews] Inkling 2 Small: 17A-594B trained in 68 hours on 12T tokens, beating Muse Spark
AI 导读
Thinking Machines 发布 Inkling 2 Small,一个 594B 总参数、17B 激活的多模态 MoE,在 GB300 上以原生 NVFP4 用 68 小时完成预训练,主阶段消耗 8.4T token。
推荐理由
材料给出训练时长、精度格式与多项独立评测,可据此判断小激活MoE在成本与能力上的取舍。
来源:Latent Space · latent.space