下载一种分布式训练方法、梯度通信方法、装置以及计算设备的技术资料

文档序号:30187261

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种深度神经网络的分布式训练方法、梯度通信方法、装置以及计算设备。方法包括:在每个迭代步中,从训练数据集中获取训练数据子集,计算所述深度神经网络的网络参数在所述训练数据子集上的梯度,作为本地梯度;采用稀疏通信和密集通信交替的方式...
该专利属于阿里巴巴集团控股有限公司所有,仅供学习研究参考,未经过阿里巴巴集团控股有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。