下载一种基于AllReduce架构的高效参数同步方法的技术资料

文档序号:44930492

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种基于AllReduce架构的高效参数同步方法,该方法首先根据底层物理链路带宽对节点进行分组分解,使分解后的链路带宽与通信量相匹配,再根据分解后不同通信阶段的通信量对待通信数据进行分块,最后每个数据块在不同类型链路上以分组分解...
该专利属于浙江大学所有,仅供学习研究参考,未经过浙江大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。