Latent Space· swyx .ai·· 3 天前精选AI 评分85
Thinking Machines 发布 Inkling 2 Small:68 小时预训练 594B 多模态 MoE 模型
[AINews] Inkling 2 Small: 17A-594B trained in 68 hours on 12T tokens, beating Muse Spark
AI 导读
Thinking Machines 发布 Inkling 2 Small,这是一款 594B 总参数、17B 激活参数的多模态 MoE 模型,在 GB300 集群上仅用 68 小时完成 8.4T tokens 的原生 NVFP4 预训练。
推荐理由
原文梳理了 Inkling 2 Small 的训练效率、基准表现及对齐过程,为评估西方开源模型竞争力提供了具体参照。
来源:Latent Space · latent.space