首页> 要闻 > > 正文

全球首个知识增强千亿大模型“鹏城-百度·文心”发布 参数规模达2600亿

2021-12-08 23:09:23 来源:中国网科技

中国网科技12月8日讯 今日,百度与鹏城实验室举办新闻发布会,联合发布全球首个知识增强千亿大模型——“鹏城-百度·文心”(模型版本号:ERNIE 3.0 Titan),据悉,该模型参数规模达2600亿,是目前全球最大的中文单体模型。

据介绍, “鹏城-百度·文心”大模型基于鹏城实验室的算力系统“鹏城云脑Ⅱ”和百度飞桨深度学习平台的支持,解决了超大模型训练的多个公认技术难题,实现了训练速度大幅提升、效果更优。

值得关注的是,“鹏城-百度·文心”在机器阅读理解、文本分类、语义相似度计算等60多项任务中取得最好效果,并在30余项小样本和零样本任务上刷新基准。本着开源开放的理念,该模型代码近期会在OpenI启智社区开源,依托“鹏城云脑Ⅱ”对外开放,助力科技创新,推动产业发展。

发布会现场,百度产业级知识增强大模型“文心”全景图也首次亮相。王海峰介绍到,最新的产业级知识增强大模型“文心”全景图,既包含基础通用的大模型,也包含面向重点领域、重点任务的大模型,以及丰富的工具与平台,有助于推动技术创新和产业发展。

目前,百度“文心”通过百度飞桨平台陆续对外开源开放,并大规模应用于百度搜索、信息流、智能音箱等产品,并通过百度智能云赋能工业、能源、金融、通信、媒体、教育等众多行业。

标签: 模型 文心 全景 知识