神经网络系统中的数据传输技术及神经网络系统技术方案

技术编号:26173044 阅读:31 留言:0更新日期:2020-10-31 13:53
一种神经网络系统中的数据传输技术及神经网络系统。该神经网络系统包括第一计算节点以及连接所述第一计算节点的第一传输节点。在接收到所述神经网络系统中的第二传输节点发送的第一数据包后,所述第一传输节点解析所述第一数据包以获得所述第一数据包中的第一位置信息以及第一子数据块。所述第一传输节点根据所述第一位置信息将所述第一子数据块以及所述第一传输节点中缓存的其他子数据块汇聚成第一数据块后,将所述第一数据块发送给所述第一计算节点。从而第一计算节点基于配置的权重值对所述第一数据块进行神经网络计算。

【技术实现步骤摘要】
神经网络系统中的数据传输技术及神经网络系统
本申请涉及计算机
,尤其涉及一种神经网络系统中的传输技术及神经网络系统。
技术介绍
深度学习(deeplearning,DL)是人工智能一个重要分支,深度学习是为了模仿人脑构造的一种神经网络,可以达到比传统的浅层学习方式更好的识别效果。近年来,深度神经网络在图像识别,语音识别等领域取得了广泛的成功。由于神经网络处理的数据量很大,因此如何提高神经网络的处理速度成为神经网络的重要方向。基于流处理的神经网络中,一个节点处理完数据后,就将处理结果发送给其他节点进行处理。这种流水线式的处理方式能够使得多个节点并发处理同一条数据流,提高处理效率。在流处理过程中,数据需要在多个节点间传输。数据传输通常包括单播和多播两种方式。单播传输是指将数据包传递给单一目的地址。多播传输是指将数据包同时传输给多个目的地址。具体的,在以多播的形式将数据包传输给多个目的地址时,数据包在链路上只传递一次,只有在链路分叉时,数据包才会被复制分别传输给不同的节点,因此,多播传输的方式,减少了网络中重复的数据包的数量,提升了传输本文档来自技高网...

【技术保护点】
1.一种神经网络系统,其特征在于,包括:/n第一计算节点;/n第一传输节点,连接所述第一计算节点并用于:/n接收第二传输节点发送的第一数据包;/n解析所述第一数据包以获得所述第一数据包中的第一位置信息以及第一子数据块;/n根据所述第一位置信息将所述第一子数据块以及所述第一传输节点中缓存的其他子数据块组成第一数据块,其中,所述第一位置信息用于指示所述第一子数据块在第一数据块中的位置;/n将所述第一数据块发送给所述第一计算节点;/n所述第一计算节点,用于基于配置的权重值对所述第一数据块进行神经网络计算。/n

【技术特征摘要】
1.一种神经网络系统,其特征在于,包括:
第一计算节点;
第一传输节点,连接所述第一计算节点并用于:
接收第二传输节点发送的第一数据包;
解析所述第一数据包以获得所述第一数据包中的第一位置信息以及第一子数据块;
根据所述第一位置信息将所述第一子数据块以及所述第一传输节点中缓存的其他子数据块组成第一数据块,其中,所述第一位置信息用于指示所述第一子数据块在第一数据块中的位置;
将所述第一数据块发送给所述第一计算节点;
所述第一计算节点,用于基于配置的权重值对所述第一数据块进行神经网络计算。


2.根据权利要求1所述的神经网络系统,其特征在于,所述第一数据包还包括第一索引信息,所述第一传输节点还用于:
根据所述第一索引信息以及设置的第二级路由表获得所述第一数据包的路由信息;
其中,所述第一传输节点根据所述第一数据包的路由信息将所述第一数据块发送给所述第一计算节点。


3.根据权利要求1所述的神经网络系统,其特征在于,所述第一传输节点还用于:
接收第二数据包,其中,所述第二数据包包括第二索引信息、第三索引信息、第二子数据块和第三子数据块;
根据所述第二索引信息以及设置的第一级路由表获得所述第二子数据块的描述信息;
根据所述第三索引信息以及所述第一级路由表获得所述第三子数据块的描述信息;
根据所述第二子数据块以及所述第二子数据块的描述信息获得第二子数据包;
根据所述第三子数据块以及所述第三子数据块的描述信息获得第三子数据包。


4.根据权利要求3所述的神经网络系统,其特征在于,所述第二子数据块的描述信息中包含第二子索引信息,所述第三子数据块的描述信息中包含第三子索引信息,所述第一传输节点还用于:
根据所述第二子索引信息以及设置的第二级路由表获得所述第二子数据包的路由信息;
根据所述第三子索引信息以及所述第二级路由表获得所述第三子数据包的路由信息;
通过所述第二子数据包的路由信息发送所述第二子数据包;
通过所述第三子数据包的路由信息发送所述第三子数据包。


5.根据权利要求1所述的神经网络系统,其特征在于,还包括:
第二计算节点,用于对输入所述第二计算节点的数据执行第一神经网络层的计算,所述第一子数据块为所述第二计算节点的计算结果;
其中,所述第一计算节点对所述第一数据块执行的神经网络计算为第二神经网络层的计算。


6.根据权利要求1-5任意一项所述的神经网络系统,其特征在于,在将所述第一数据块发送给所述第一计算节点的步骤中,所述第一传输节点用于:
根据所述第一数据块获得多个子数据包,其中,每个子数据包中包括所述第一数据块中的一部分数据,每个子数据包中的数据的大小为所述第一计算节点执行一次计算的数据量;
将所述多个子数据包分别发送给所述第一计算节点。


7.一种数据传输方法,其特征在于,所述方法由神经网络系统中的第一传输节点执行,所述方法包括:
接收所述神经网络系统中的第二传输节点发送的第一数据包;
解析所述第一数据包以获得所述第一数据包中的第一位置信息以及第一子数据块;
根据所述第一位置信息将所述第一子数据块以及所述第一传输节点中缓存的其他子数据块组成第一数据块,其中,所述第一位置信息用于指示所述第一子数据块在第一数据块中的位置;
将所述第一数据块发送给连接所述第一传输节点的第一计算节点。


8.根据权利要求7所述的方法,其特征在于,所述第一数据包还包括第一索引信息,所述方法还包括:
根据所述第一索引信息以及设置的第二级路由表获得所述第一数据包的路由信息;
所述将所述第一数据块发送给连接所述第一传输节点的第一计算节点包括:
根据所述第一数据包的路由信息将所述第一数据块发送给所述第一计算节点。


9.根据权利要求7所述的方法,其特征在于,还包括:
从第三传输节点接收第二数据包,其中,所述第二数据包包括第二索引信息、第三索引信息、第二子数据块和第三子数...

【专利技术属性】
技术研发人员:李鸽子段小祥陈云朱俊华张慧敏
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1