温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。

本发明提出一种分布式训练通信压缩方法、装置、分布式训练系统，该方法包含：将分布式集群中各节点的全局梯度信息进行分组；在每个分组内选择梯度绝对值最大的前K个梯度值，将其余未选中的梯度值置为0，生成稀疏梯度矩阵；在各节点之间共享该稀疏梯度矩阵。...
该专利属于中国科学院计算技术研究所所有，仅供学习研究参考，未经过中国科学院计算技术研究所授权不得商用。

详细技术文档下载地址

温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。