下载面向分布式深度学习算子并行训练的通信优化方法与系统的技术资料

文档序号:37346713

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种面向分布式深度学习算子并行训练的通信优化方法与系统,对通信方式进行了优化,方法与系统一一对应,主要包括:剖析模型,策略评估和生成最佳优化策略,算子拆分和隐藏通信,模型训练与算子拆分的集成四个部分。与传统方案相比,本发明利用开...
该专利属于中国科学技术大学所有,仅供学习研究参考,未经过中国科学技术大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。