一个小站的自留地
百度开源 ERNIE 4.5 大模型家族 百度正式宣布开源其最新的旗舰级大模型系列 ERNIE 4.5,这是一个包含 10 个不同变体的大规模多模态模型家族。该系列包含 2 个多模态大模型和 4 个大语言模型,共计 23 个模型版本,其中最大模型拥有 4240 亿参数,47B 活跃参数。 ERNIE 4.5 采用了创新的异构多模态混合专家(MoE)架构,支持跨模态参数共享的同时,也为每个模态保留专用参数。这种设计在提升多模态理解能力的同时,实现了文本处理性能的同步增强。模型支持图像、视频和文本等多种输入模态,并生成文本输出。…
百度正式发布文心 5.0 模型

Baidu 宣布 ERNIE 5.0 正式上线,将其定位为「原生全模态」(native omni-modal)大语言模型,采用端到端架构,在同一模型内完成多模态理解与生成,覆盖文本、图像、音频与视频等输入输出形态。

在架构与效率上,ERNIE 5.0 采用 2.4 万亿参数的混合专家(Mixture of Experts, MoE)设计,并强调单次推理的激活参数占比低于 3%,以在保持推理与生成能力的同时降低推理成本、提升部署效率。

在获取方式上,ERNIE 5.0 已可通过 ERNIE Bot 官网使用;面向企业客户与开发者,则可通过千帆大模型平台接入。

(Baidu)
 
 
Back to Top