下载一种基于细粒度并行假设的零冗余异构训练方法的技术资料

文档序号:36551490

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种基于细粒度并行假设的零冗余异构训练方法,涉及预训练语言模型技术领域,包括以下步骤:S1:将连续的一部分参数集中到一个块当中,在EL中使用一系列同样大小的内存块来存放这些参数;该基于细粒度并行假设的零冗余异构训练方法,通过使用...
该专利属于北京潞晨科技有限公司所有,仅供学习研究参考,未经过北京潞晨科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。