下载一种自适应深度Transformer语言模型的预训练方法的技术资料

文档序号:39297114

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种自适应深度Transformer语言模型的预训练方法,包括以下步骤:S1,使用无监督的分词工具SentencePiece进行分词和创建词典;S2,对输入的序列进行嵌入操作;S3,将执行嵌入操作之后的输入序列输入Sandwic...
该专利属于东湖灵境(武汉)技术有限公司所有,仅供学习研究参考,未经过东湖灵境(武汉)技术有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。