百度开源文心5.5 Flash Base基座模型
先了解这件事
11月5日，百度开源基座模型文心5.5 Flash Base（ERNIE 5.5 Flash Base）。该模型采用MoE架构，总参数量2800亿，每个Token激活140亿参数，预训练使用33.5万亿个Token。据量子位报道，预训练上下文长度最高128K，微调与推理阶段支持最长100万Token上下文；雷锋网称其在多基准测试中刷新同尺寸模型SOTA。 The Decoder与MarkTechPost称，此次发布的是刻意未经微调和后训练的原始预训练检查点，由开发者自行决定后续方向，后训练版本后续推出。权重以FP8和BF16格式在Hugging Face提供，MarkTechPost称ModelScope也有发布。 MarkTechPost还称，该模型许可证在年收入低于5000万美元时免费，但排除欧盟、英国和韩国；vLLM路径需0.32.0版本及vLLM-ERNIE插件；作为基座模型，它通过completions端点而非chat端点运行。
AI 根据报道生成 · 6 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- MarkTechPost百度发布 ERNIE 5.5 Flash Base：280B 总参数、14B 激活的 MoE 基座模型
百度发布 ERNIE 5.5 Flash Base，这是其稀疏 MoE 语言模型的原始预训练检查点，总参数 280B、每 token 激活 14B，权重停在预训练结束、未做中期或后训练。
- The Decoder百度开源 2800 亿参数 ERNIE 5.5 Flash Base 基础模型
百度发布开源基础模型 ERNIE-5.5-Flash-Base，采用 MoE 架构，总参数 2800 亿、每次输入激活 140 亿，刻意不做微调和后训练，由开发者自行决定后续方向，后训练版本后续推出。
- 量子位百度开源文心5.5 Flash Base基座模型，多基准刷新同尺寸SOTA
11月5日，百度正式开源基座模型文心5.5 Flash Base（ERNIE 5.5 Flash Base），采用MoE架构，总参数量2800亿，每个Token激活140亿参数，使用33.5万亿个Token完成预训练，预训练上下文长度最高128K，微调与推理阶段支持最长100万Token上下文。
- 雷锋网百度开源文心5.5 Flash Base，多基准测试刷新同尺寸模型 SOTA
11月5日，百度正式开源基座模型文心5.5 Flash Base（ERNIE 5.5 Flash Base），采用MoE架构，总参数量2800亿，每个 Token 激活140亿参数，使用33.5万亿个 Token 完成预训练。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 3211月6日 06:00
- 近 24 小时变化
- -85%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。