下载一种模型分布式训练显存优化方法、系统及可读存储介质的技术资料

文档序号:44923915

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种模型分布式训练显存优化方法、系统及可读存储介质,包括:获取模型第一轮训练过程中每个算子的参数量和访问顺序,对算子进行唯一性编号后生成执行顺序图并存储;对每个算子进行均匀切分,并记录分片映射关系;在训练过程中,根据算子的执行顺...
该专利属于浙江大学所有,仅供学习研究参考,未经过浙江大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。