数据传输装置、方法、数据处理节点、芯片及电子设备制造方法及图纸

本公开提供了一种数据传输装置、方法、数据处理节点、数据处理芯片、电子设备及存储介质，其中，该数据传输装置包括：主控制器，用于生成多个数据处理节点分别对应的数据传输指示信息；所述数据传输指示信息包括下述至少一项：与至少一个数据传输周期分别对应的待传输数据的标识信息、以及传输的目的节点信息；数据处理节点，用于响应于数据传输事件被触发，在所述至少一个数据传输周期中的每个数据传输周期，从所述主控制器下发的数据传输指示信息中获取与每个数据传输周期对应的目标数据传输指示信息，并基于所述目标数据传输指示信息，传输所述每个数据传输周期对应的待传输数据。据。据。

【技术实现步骤摘要】
数据传输装置、方法、数据处理节点、芯片及电子设备


[0001]本公开涉及数据传输
，具体而言，涉及一种数据传输装置、方法、数据处理节点、数据处理芯片、电子设备及存储介质。

技术介绍

[0002]随着人工智能(Artificial Intelligence，AI)技术的广泛应用，神经网络模型越来越大，需要处理、和传输的数据越来越多，导致对算力要求越来越高。受工艺和功耗等限制，单颗片上系统(System on Chip，SoC)芯片，如AI专用芯片、图形处理器(Graphics Processing Unit，GPU)等的算力已不能满足需求；所以，多颗芯片联合工作的分布式架构作为解决算力不足问题的方式，存在数据在多颗芯片之间传输效率较低的问题。

技术实现思路

[0003]本公开实施例至少提供一种数据传输装置、方法、数据处理节点、数据处理芯片、电子设备及存储介质。
[0004]第一方面，本公开实施例提供了一种数据传输装置，包括：主控制器、以及多个数据处理节点；
[0005]所述主控制器，用于生成多个数据处理节点分本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据传输装置，其特征在于，包括：主控制器、以及多个数据处理节点；所述主控制器，用于生成多个数据处理节点分别对应的数据传输指示信息；所述数据传输指示信息包括下述至少一项：与至少一个数据传输周期分别对应的待传输数据的标识信息、以及传输的目的节点信息；所述数据处理节点，用于响应于数据传输事件被触发，在所述至少一个数据传输周期中的每个数据传输周期，从所述主控制器下发的数据传输指示信息中获取与每个数据传输周期对应的目标数据传输指示信息，并基于所述目标数据传输指示信息，传输所述每个数据传输周期对应的待传输数据。2.根据权利要求1所述的数据传输装置，其特征在于，每个所述数据处理节点对应的数据传输指示信息，保存在与该数据处理节点对应的数据传输链表中；所述主控制器，还用于：生成多个所述数据处理节点分别对应的数据传输链表，并向多个所述数据处理节点中的每个数据处理节点下发对应的数据传输链表；所述数据处理节点，在从所述主控制器下发的数据传输指示信息中获取与每个数据传输周期对应的目标数据传输指示信息时，用于从所述主控制器下发的所述数据传输链表中，获取与所述每个数据传输周期对应的目标数据传输指示信息。3.根据权利要求1或2所述的数据传输装置，其特征在于，所述数据处理节点，还用于：响应于接收到其他数据处理节点传输的待传输数据，基于所述其他数据处理节点传输的待传输数据，执行与所述其他数据处理节点传输的待传输数据对应的数据处理任务。4.根据权利要求2所述的数据传输装置，其特征在于，所述主控制器，在生成多个所述数据处理节点分别对应的数据传输链表时，用于：确定所述待传输数据在多个所述数据处理节点之间的数据传输路径，并基于所述数据传输路径，生成多个所述数据处理节点分别对应的数据传输链表。5.根据权利要求4所述的数据传输装置，其特征在于，所述主控制器，在确定所述待传输数据在多个数据处理节点之间的数据传输路径时，用于：确定多个数据处理任务、以及多个数据处理任务分别对应的数据来源信息；为多个数据处理节点分别分配对应的数据处理任务；基于多个数据处理节点和所述数据处理任务之间的对应关系、以及多个所述数据处理任务分别对应的数据来源信息，确定与每个数据处理节点对应的待传输数据、以及对应待传输数据的目的节点；其中，与每个数据处理节点对应的待传输数据，包括：所述每个数据处理节点需要传输至其他数据处理节点的数据；针对每个数据处理节点，基于与所述每个数据处理节点对应的待传输数据、对应目的节点、以及多个数据处理节点之间的物理连接关系，生成所述每个数据处理节点对应的数据传输路径。6.根据权利要求5所述的数据传输装置，其特征在于，所述主控制器，在确定多个数据处理任务、以及多个数据处理任务分别对应的数据来源信息时，用于：对目标任务进行解析，得到多个所述数据处理任务；基于所述目标任务对应的数据来源信息、以及多个所述数据处理任务之间的依赖关系，得到多个数据处理任务分别对应的数据来源信息。7.根据权利要求6所述的数据传输装置，其特征在于，所述主控制器，在对目标任务进
行解析，得到多个所述数据处理任务时，用于：基于多个数据处理节点构成的分布式架构的类型，对所述目标任务进行拆分，得到多个所述数据处理任务。8.根据权利要求4
‑
7任一项所述的数据传输装置，其特征在于，所述主控制器，在基于所述数据传输路径，生成所述待传输数据在多个所述数据处理节点之间传输的数据传输链表时，用于：基于多个所述数据处理节点构成分布式架构的类型，确定每个数据处理节点对应的待传输数据在多个所述数据处理节点之间传输时的传输方式；基于所述传输方式、以及每个数据处理节点对应的待传输数据的数据传输路径，生成所述每个数据处理节点对应的待传输数据的数据传输链表。9.根据权利要求8所述的数据传输装置，其特征在于，响应于所述数据处理节点分布式架构的类型为环形全局规约架构，且确定所述传输方式为环形全局规约传输方式，所述环形全局规约数据方式包括分散规约传输阶段、以及全局聚集传输阶段；所述主控制器，在基于所述传输方式、以及每个数据处理节点对应的待传输数据的数据传输路径，生成所述每个数据处理节点对应的待传输数据的数据传输链表时，用于：为多个数据处理节点中的每个数据处理节点确定位于传输上游的邻居节点、以及位于传输下游的邻居节点；以及基于所述数据处理节点的数量，确定每个数据处理节点中将对应待处理数据划分成的子数据的数量、以及各子数据的标号；针对每个数据处理节点，为该数据处理节点确定在分散规约传输阶段要聚集的子数据对应的第一标号、以及要传输给其他数据处理节点的子数据对应的第二标号；以及在全局聚集传输阶段的多个第二传输周期，确定要传输给其他处理节点的聚集数据的第三标号；其中，所述聚集数据是基于具有相同第一标号的不同子数据生成的，或者基于具有相同第二标号的不同子数据生成的；针对每个数据处理节点，基于每个所述数据处理节点在分散规约传输阶段的多个第一传输周期中，分别传输的子数据的第二标号，确定每个第一传输周期分别对应的子数据在当前节点的存储地址、在传输下游的邻居节点的存储地址、以及子数据的数据量，基于每个第一传输周期分别对应的子数据在当前节点的存储地址、在传输下游的邻居节点的存储地址、以及子数据的数据量，生成每个第一传输周期对应的数据传输指示信息；以及，基于每个所述数据处理节点在分散规约传输阶段的多个第二传输周期中，分别传输的聚集数据的第三标号，确定每个第二传输周期分别对应的聚集数据在当前节点的存储地址、在传输下游的邻居节点的存储地址、以及聚集数据的数据量；基于每个第二传输周期分别对应的聚集数据在当前节点的存储地址、在传输下游的邻居节点的存储地址、以及聚集数据的数据量，生成每个第二传输周期对应的数据传输指示信息；基于多个第一传输周期对应的传输指示信息、以及多个第二周期分别对应的数据传输指示信息，生成所述数据传输链表。10.根据权利要求8所述的数据传输装置，其特征在于，响应于所述数据处理节点分布式架构的类型为参数服务器架构，且确定所述传输方式为广播传输方式；多个所述数据处理节点包括：作为参数服务器的第一数据处理节点、以及作为非参数服务器的第二数据处理节点；
所述主控制器，在基于所述传输方式、以及每个数据处理节点对应的待传输数据...

【专利技术属性】
技术研发人员：刘文龙，冷祥纶，周琳，李冰，占惠花，
申请(专利权)人：上海阵量智能科技有限公司，
类型：发明
国别省市：