vivo 自研蓝心大模型 7B 现已向全行业开源 模型,开源

11 月 9 日消息，在近日的2023 vivo 开发者大会上，vivo 发布率先开源 70 亿参数级的蓝心大模型 7B 以及对应的微调框架。

依照许诺，vivo 现已在Hugging Face 上正式开源了BlueLM-7B， 小搭档可在 。

BlueLM-7B 开源大模型包含 7B 基本模型和 7B 对话模型，同时 vivo 开源了支撑32K的长文本基本模型和对话模型。

据介绍，BlueLM 采取高质量语料库进行训练，规模到达了2.6 万亿的 token 数，该语料库包括中文、英文以及少量日韩数据。其中 BlueLM-7B-Chat 在C-Eval和CMMLU上均取得领先成果。

BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 均支撑32K长文本，在坚持基本才能相当情形下，能够支撑更长上下文懂得。