一种多通道数据传输方法、装置和存储介质制造方法及图纸

本发明专利技术涉及一种多通道数据传输方法、装置和存储介质，方法包括以下步骤：将需要传输的数据划分为数据块，并将数据块按传输通道的带宽比例分配到不同的传输通道中；通过不同的传输通道对需要传输的数据进行环形通信。本发明专利技术的多通道数据传输方法，基于环形通信方法，建立了不同的环形通信环路，包括PCIE环形通信环路、NVSWITCH环形通信环路和PCIE+QPI环形通信环路，在现有技术的NVSWITCH环形通信环路基础之上增加了PCIE环形通信环路或者PCIE+QPI环形通信环路，增加了传输带宽，提升了数据传输速率。速率。速率。

【技术实现步骤摘要】
一种多通道数据传输方法、装置和存储介质


[0001]本专利技术涉及通信
，尤其是指一种多通道数据传输方法、装置和存储介质。

技术介绍

[0002]在现有的深度学习框架中，Nccl(NVIDIA Collective Communication Library，NVIDIA集体通信库)通信库占有统治性的地位，Horovod底层通信也是由Nccl完成。Nccl中主要采用的是环形通信方法可以有效的采用 Pipeline技术(流水线技术)，使其具有良好的扩展性，在大数据量传输时应用较多。
[0003]深度学习的大规模数据并行训练带来了越来越大的时间开销，在高速传输网络，硬件成本高昂的情况下，如何合理高效的利用低速网络传输也是我们要解决的问题。低速网络的低传输效率，已经逐渐成为了神经网络大规模训练的瓶颈。

技术实现思路

[0004]为了解决上述技术问题，本专利技术提供了一种多通道数据传输方法、装置和存储介质，可以增加传输带宽，可以提高GPU间的数据传输效率。
[0005]为实现上述目的，本申请提出第一技术方案：一种多通道数据传输方法，包括以下步骤：将需要传输的数据划分为数据块，并将所述数据块按传输通道的带宽比例分配到不同的传输通道中；通过不同的传输通道对需要传输的数据进行环形通信；其中，所述传输通道包括PCIE传输通道、NVSWITCH传输通道和PCIE+QPI传输通道。PCIE(peripheral component interconnect express)是一种高速串行计算机扩展总线标准，端到端的高速数据传输通道，PCIESWITCH是PCIE的交换芯片，PCIE依赖于PCIESWITCH进行链路拓扑。NVSWITCH是GPU之间的高速互联技术，支持不同的GPU之间进行高速互联；PCIE+QPI则是PCIE传输通道和QPI传输通道的组合通道。其中QPI，即，Quick Path Interconnect，又名CSI，Common System Interface公共系统接口，QPI是一种基于包传输的串行式高速点对点连接协议，采用差分信号与专门的时钟进行传输。
[0006]在本专利技术的一个实施例中，所述将需要传输的数据划分为数据块前，还包括：确定需要进行数据传输的GPU；确定GPU之间需要传输的数据。
[0007]在本专利技术的一个实施例中，所述将所述数据块按传输通道的带宽比例分配到不同的传输通道前，还包括：执行数据传输的GPU之间建立PCIE环形通信环路和NVSWITCH环形通信环路；其中，所述PCIE环形通信环路中的相邻两个GPU之间形成所述PCIE传输通道，所述NVSWITCH环形通信环路中的相邻两个GPU之间形成所述NVSWITCH传输通道。
[0008]在本专利技术的一个实施例中，所述执行数据传输的GPU之间建立PCIE环形通信环路
和NVSWITCH环形通信环路，具体包括：获取GPU的拓扑信息；根据GPU的拓扑信息按照约束条件建立所述NVSWITCH环形通信环路；清除GPU的拓扑信息和约束条件并建立所述PCIE环形通信环路。
[0009]在本专利技术的一个实施例中，所述建立所述PCIE环形通信环路，还包括：判断GPU之间是否跨区，如果跨区，则建立PCIE+QPI环形通信环路；如果没有跨区，则建立PCIE环形通信环路；其中，所述PCIE+QPI环形通信环路中的相邻两个GPU之间形成所述PCIE+QPI传输通道。
[0010]在本专利技术的一个实施例中，所述将所述数据块按传输通道的带宽比例分配到不同的传输通道中，具体包括：计算所述不同的传输通道之间的带宽比例；将所述数据块按不同的传输通道之间的带宽比例分配到不同的传输通道中。
[0011]在本专利技术的一个实施例中，所述通过不同的传输通道对需要传输的数据进行环形通信，还包括：通过同步函数确保数据块在你给的传输通道中同时传输完成。
[0012]为实现上述目的，本申请还提出第二技术方案：一种多通道数据传输装置，所述装置包括：数据拆分模块，用于将需要传输的数据拆分为数据块；数据分配模块，用于将数据块按照带宽比例分配到不同的传输通道中；环形通信模块，用于实现GPU之间数据的环形通信；传输通道模块，用于传输需要传输的数据；其中，所述传输通道模块包括PCIE传输通道模块、NVSWITCH传输通道模块和PCIE+QPI传输通道模块。
[0013]在本专利技术的一个实施例中，所述装置还包括：环路建立模块，用于建立PCIE环形通信环路、NVSWITCH环形通信环路和PCIE+QPI环形通信环路；拓扑信息模块，用于获取及清除GPU的拓扑信息；函数同步模块，用于确保数据块在不同的传输通道中同时传输完成。
[0014]为实现上述目的，本申请提出第三技术方案：一种计算机可读存储介质，所述计算机可读存储介质存储有程序，当所述程序被处理器执行时，使得所述处理器执行所述方法的步骤。
[0015]本专利技术的上述技术方案相比现有技术具有以下优点：本专利技术所述的一种多通道数据传输方法、装置和存储介质，基于环形通信方法，建立了不同的环形通信环路，包括PCIE环形通信环路、NVSWITCH环形通信环路和PCIE+QPI环形通信环路，在现有技术的NVSWITCH环形通信环路基础之上增加了PCIE环形通信环路或者PCIE+QPI环形通信环路，增加了传输带宽，提升了数据传输速率。
附图说明
[0016]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
[0017]图1是本专利技术的多通道数据传输方法的第一方法流程图；图2是本专利技术的多通道数据传输方法的第二方法流程图；图3是本专利技术的多通道数据传输方法装置的装置结构图；图4是本专利技术的多通道数据传输方法的GPU跨区机型拓扑结构图；图5是本专利技术的多通道数据传输方法的GPU不跨区机型拓扑结构图。
具体实施方式
[0018]为使本专利技术的目的、技术方案和优点更加清楚，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本专利技术保护的范围。
[0019]实施例一：参照图1所示，图1为本专利技术的多通道数据传输方法的第一方法流程图。
[0020]本实施例的多通道数据传输方法，包括以下步骤：将需要传输的数据划分为数据块，并将所述数据块按传输通道的带宽比例分配到不同的传输通道中；深度学习的大规模数据并行训练带来了越来越大的时间开销，在高速传输网络，硬件成本高昂的情况下，如何合理高效的利用低速网络传输也是我们要解决的问题。低速网络的低传输效率，已经逐渐成为了神经网络大规模训练的瓶颈。因此，本专利技术提出一种多通道数据传本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种多通道数据传输方法，其特征在于，所述方法包括以下步骤：将需要传输的数据划分为数据块，并将所述数据块按传输通道的带宽比例分配到不同的传输通道中；通过不同的传输通道对需要传输的数据进行环形通信；其中，所述传输通道包括PCIE传输通道、NVSWITCH传输通道和PCIE+QPI传输通道。2.根据权利要求1所述的多通道数据传输方法，其特征在于，所述将需要传输的数据划分为数据块前，还包括：确定需要进行数据传输的GPU；确定GPU之间需要传输的数据。3.根据权利要求1所述的多通道数据传输方法，其特征在于，所述将所述数据块按传输通道的带宽比例分配到不同的传输通道前，还包括：执行数据传输的GPU之间建立PCIE环形通信环路和NVSWITCH环形通信环路；其中，所述PCIE环形通信环路中的相邻两个GPU之间形成所述PCIE传输通道，所述NVSWITCH环形通信环路中的相邻两个GPU之间形成所述NVSWITCH传输通道。4.根据权利要求3所述的多通道数据传输方法，其特征在于，所述执行数据传输的GPU之间建立PCIE环形通信环路和NVSWITCH环形通信环路，具体包括：获取GPU的拓扑信息；根据GPU的拓扑信息按照约束条件建立所述NVSWITCH环形通信环路；清除GPU的拓扑信息和约束条件并建立所述PCIE环形通信环路。5.根据权利要求4所述的多通道数据传输方法，其特征在于，所述建立所述PCIE环形通信环路，还包括：判断GPU之间是否跨区，如果跨区，则建立PCIE+QPI环形通信环路；如果没有跨区，则建立PCIE环形通信...

【专利技术属性】
技术研发人员：罗建刚，王申领，
申请(专利权)人：苏州浪潮智能科技有限公司，
类型：发明
国别省市：