中国大模型语料数据联盟开源发布高质量多模态语料“书生·万卷”

(资料图)

品玩8月14日讯，据上证报报道，继今年7月在2023世界人工智能大会发起成立“中国大模型语料数据联盟”，上海人工智能实验室（上海AI实验室）于8月14日宣布，联合语料数据联盟成员单位，共同开源发布“书生·万卷”1.0多模态预训练语料。“书生·万卷”1.0目前包含文本数据集、图文数据集、视频数据集三部分，本次开源的数据总量超过2TB。该语料数据包含超过5亿个文本，2200万个图文交错文档，1000个节目影像视频，具备多元融合、精细处理、价值对齐、易用高效等四大特征。