‹ 返回列表
AI 重要度 7.9

百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA

重点提炼

11月5日,百度正式开源最新基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base)。

11月5日,百度正式开源最新基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base)。模型采用MoE架构,总参数量2800亿,每个 Token 激活140亿参数,使用33.5万亿个 Token 完成预训练,预训练上下文长度最高达128K,微调与推理阶段支持最长100万 Token上下文。在知识、推理、数学、代码、多语言和长上下文等多个基准测试中取得同尺寸模型 SOTA 表现,超过 DeepSeek-V4-Flash-Base、Hy3-preview-Base、MiMo-V2.5-Base 等模型。开源地址:https://huggingface.co/baidu/ERNIE-5.5-Flash-Base随着大模型应用从文本问答向长文档分析、多轮交互和智能体任务延伸,模型需要处理的信息量持续增加,计算和显存开销也随之上升。在保证模型能力的同时提高资源利用效率,已成为大模型研发的重要课题。文心 5.5 Flash Base围绕“效率”这一设计主线,在注意力机制、专家路由及训练机制等关键环节进行系统性优化,并实现了多项算法创新。在注意力机制上,文心提出 La