下载一种预训练语料库的构建方法、装置、设备及可读介质的技术资料

文档序号:31084129

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种预训练语料库的构建方法,包括:基于待构建预训练语料库的大小判断需要数据集规模是否为小规模数据集;若是需要数据集规模不为小规模数据集,则基于预设token数占比计算爬虫数据的权重和每个高质量数据集需要提供的token数量;基于...
该专利属于苏州浪潮智能科技有限公司所有,仅供学习研究参考,未经过苏州浪潮智能科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。