下载一种一致性正则和知识蒸馏熵约束伪标签文本摘要方法的技术资料

文档序号:43696999

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明涉及一种一致性正则和知识蒸馏熵约束伪标签文本摘要方法,属于计算机自然语言处理技术领域。本发明包括步骤:1、将预训练语言模型进行知识蒸馏;2、对学生模型进行模型自身和模型之间的二阶段一致性正则训练;与现有技术相比,本发明方法采用基于二阶...
该专利属于北京理工大学所有,仅供学习研究参考,未经过北京理工大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。