AI 2600亿参数,压缩率可达99.98%,全球首个知识增强千亿大模型“鹏城-百度·文心”发布

2600亿参数,压缩率可达99.98%,全球首个知识增强千亿大模型“鹏城-百度·文心”发布

新芒X 12月9日消息,12月8日,鹏城实验室与百度举办新闻发布会,联合发布全球首个知识增强千亿大模型——“鹏城-百度·文心”(模型版本号:ERNIE 3.0 Titan),该模型参数规模达2600亿,是目前全球最大的中文单体模型。

“鹏城-百度·文心”在机器阅读理解、文本分类、语义相似度计算等60多项任务中取得最好效果,并在30余项小样本和零样本任务上刷新基准。

中国工程院院士、鹏城实验室主任高文(左),百度首席技术官、深度学习技术及应用国家工程实验室主任王海峰联合发布“鹏城-百度·文心”

为解决“鹏城-百度·文心”大模型应用落地难题,百度团队首创大模型在线蒸馏技术,模型参数压缩率可达99.98%。压缩版模型仅保留0.02%参数规模就能与原有模型效果相当,更有利于产业大规模应用。本着开源开放的理念,该模型代码近期会在OpenI启智社区开源,依托“鹏城云脑Ⅱ”对外开放,助力科技创新,推动产业发展。

百度首席技术官、深度学习技术及应用国家工程实验室主任王海峰发布百度产业级知识增强大模型“文心”全景图

当日发布会上,百度产业级知识增强大模型“文心”全景图也首次亮相。王海峰介绍,最新的产业级知识增强大模型“文心”全景图,既包含基础通用的大模型,也包含面向重点领域、重点任务的大模型,以及丰富的工具与平台,有助于推动技术创新和产业发展。

文章来源信息声明: 本文信息出自权威媒体、企业官方及网络,并经新芒X编辑,转载请注明源出处、作者和链接。 图片部分来源于网络,在此表示感谢,如有侵权请联系我方处理。 文章发布日期后方火形图标后的数字,为文章热度,谨代表受欢迎程度。 新芒X平台仅对用户提供信息及决策参考,本文不构成投资建议。

作者: 新芒Group

新芒出品,专注专业。兼具内容品质和传播影响力
关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部