下载一种用于分布式深度学习的压缩梯度的方法的技术资料

文档序号:20486697

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种用于分布式深度学习的压缩梯度的方法,利用每一层计算出的梯度矩阵的熵来判断这一层梯度中所包含信息的多少,以此来判断每一层梯度的重要性。之后,利用熵来计算出每一层需要发送多少百分比的梯度,这样既可以减少人工经验的影响,又可以在保...
该专利属于中山大学所有,仅供学习研究参考,未经过中山大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。