跳到正文
The Decoder· Matthias Bastian·· 4 天前AI 评分72

百度发布 2800 亿参数开源基座模型 ERNIE 5.5 Flash Base

Baidu releases ERNIE 5.5 Flash Base with 280 billion parameters as an open-source foundation model

AI 导读

百度发布开源基座模型 ERNIE-5.5-Flash-Base,采用 2800 亿参数 MoE 架构,每输入激活 140 亿参数。该模型在 33.5 万亿 token 上预训练,支持最长 100 万 token 上下文,权重已在 Hugging Face 以 FP8 和 BF16 格式开放。

来源:The Decoder · the-decoder.com