跳到正文
Latent Space· swyx .ai·· 3 天前精选AI 评分85

Thinking Machines 发布 Inkling 2 Small:68 小时预训练 594B 多模态 MoE 模型

[AINews] Inkling 2 Small: 17A-594B trained in 68 hours on 12T tokens, beating Muse Spark

AI 导读

Thinking Machines 发布 Inkling 2 Small,这是一款 594B 总参数、17B 激活参数的多模态 MoE 模型,在 GB300 集群上仅用 68 小时完成 8.4T tokens 的原生 NVFP4 预训练。

推荐理由

原文梳理了 Inkling 2 Small 的训练效率、基准表现及对齐过程,为评估西方开源模型竞争力提供了具体参照。

来源:Latent Space · latent.space