温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明提供了针对预训练语言模型BERT的知识蒸馏方法、装置及系统,包括蒸馏训练阶段和微调测试阶段;其中,所述蒸馏训练阶段包括:获取无标签文本;利用BERT模型编码,获取所述无标签文本的BERT句向量;利用BiLSTM模型编码,获取所述无标签...该专利属于厦门云知芯智能科技有限公司所有,仅供学习研究参考,未经过厦门云知芯智能科技有限公司授权不得商用。
温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明提供了针对预训练语言模型BERT的知识蒸馏方法、装置及系统,包括蒸馏训练阶段和微调测试阶段;其中,所述蒸馏训练阶段包括:获取无标签文本;利用BERT模型编码,获取所述无标签文本的BERT句向量;利用BiLSTM模型编码,获取所述无标签...