System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及电子,尤其涉及一种数据处理电路、数据处理方法及电子设备。
技术介绍
1、随着人工智能(artificial intelligence,ai)技术的快速发展,神经网络的规模也在不断增大,这对电子设备的运算能力也提出了更高的要求。
2、目前,在电子设备中的单个处理模块无法满足神经网络的运行要求时,通常会将神经网络待执行的任务分割为多个子任务,在不同的处理模块上运行不同子任务对应的部分神经网络。
3、但是,在通过不同的处理模块运行神经网络的不同部分时,每个处理模块在运行完当前算子后要将运行结果同步至其他处理模块,用于其他处理模块中的部分网络运行下一个算子,这样导致多个处理模块之间需要频繁进行数据交互,提高了神经网络的运行复杂度。
技术实现思路
1、本申请提供了一种数据处理电路、数据处理方法及电子设备,可以降低神经网络运行过程中各个处理模块之间的数据交互频繁度,提高神经网络的运行效率。
2、第一方面,本申请提供一种数据处理电路,包括:控制模块和多个处理模块;控制模块,被配置为:在神经网络待运行的第i个算子为目标算子的情况下,将第i个算子的输入数据发送至每一个处理模块;i为大于或等于1的整数;以及,获取第i个算子的运行结果,第i个算子的运行结果是基于多个处理模块运行对应部分算子的运行结果得到的;每一个处理模块,被配置为:基于为一个处理模块分配的权重参数,运行第i个算子中与权重参数对应的部分算子,得到运行结果,其中,为多个处理模块分配的权重参数组成
3、在一些可能的实施方式中,控制模块,还被配置为:在第i个算子的结构与预设模板中的算子的结构相同时,将第i个算子确定为目标算子。
4、在一些可能的实施方式中,控制模块,还被配置为:根据处理模块的数量,对第i个算子的权重参数进行分割;以及,将分割后的每一部分权重参数发送至对应的处理模块。
5、在一些可能的实施方式中,数据处理电路还包括多个第一存储模块,其中,多个第一存储模块中的一个第一存储模块对应多个处理模块,一个第一存储模块用于存储第i个算子的至少部分算子;控制模块,还被配置为:根据每个第一存储模块中存储的部分算子的类型,将分割后的每一部分权重参数发送至对应的处理模块。
6、在一些可能的实施方式中,多个处理模块包括至少一个第一处理模块和一个第二处理模块;至少一个第一处理模块中的每一个第一处理模块,还被配置为:运行对应的第一存储模块中存储的部分算子,得到第一运行结果;以及,将第一运行结果发送至第二处理模块;第二处理模块,被配置为:运行对应的第一存储模块中存储的部分算子,得到第二运行结果;以及,根据第一运行结果和第二运行结果,确定第i个算子的运行结果。
7、在一些可能的实施方式中,控制模块,还被配置为:根据第i个算子的类型,确定目标运算方式;第二处理模块,还被配置为:对第一运行结果和第二运行结果,执行目标运算方式指示的运算,得到第i个算子的运行结果。
8、在一些可能的实施方式中,为一个第一处理模块分配的权重参数的数据量,小于或等于为第二处理模块分配的权重参数的数据量。
9、在一些可能的实施方式中,多个处理模块包括第三处理模块和第四处理模块,第三处理模块与第四处理模块一一对应;每一个第三处理模块,被配置为:运行第i个算子的部分算子,得到第三运行结果;以及,将第三运行结果发送至对应的第四处理模块;每一个第四处理模块,被配置为:运行第i个算子的部分算子,得到第四运行结果;根据第三运行结果和第四运行结果,输出第五运行结果;以及,将第五运行结果发送至控制模块;控制模块,还被配置为:根据第五运行结果,输出第i个算子的运行结果。
10、在一些可能的实施方式中,控制模块,还被配置为:根据神经网络的权重参数的数据量,确定运行神经网络需要的处理模块的数量。
11、第二方面,本申请提供一种数据处理方法,应用于上述任一数据处理电路,该方法包括:
12、在神经网络待运行的第i个算子为目标算子的情况下,控制模块将第i个算子的输入数据发送至每一个处理模块;i为大于或等于1的整数;每一个处理模块基于为自身分配的权重参数,运行第i个算子中与权重参数对应的部分算子,得到运行结果;其中,为多个处理模块分配的权重参数组成第i个算子的权重参数;控制模块获取第i个算子的运行结果。
13、在一些可能的实施方式中,该方法还包括:控制模块在第i个算子的结构与预设模板中的算子的结构相同时,将第i个算子确定为目标算子。
14、在一些可能的实施方式中,该方法还包括:控制模块根据处理模块的数量,对第i个算子的权重参数进行分割;控制模块将分割后的每一部分权重参数发送至对应的处理模块。
15、在一些可能的实施方式中,控制模块将分割后的每一部分权重参数发送至对应的处理模块,包括:控制模块根据每个第一存储模块中存储的部分算子的类型,将分割后的每一部分权重参数发送至对应的处理模块。
16、在一些可能的实施方式中,每一个处理模块基于为自身分配的权重参数,运行第i个算子中与权重参数对应的部分算子,得到运行结果,包括:每一个第一处理模块运行对应的第一存储模块中存储的部分算子,得到第一运行结果;每一个第一处理模块将第一运行结果发送至第二处理模块;第二处理模块运行对应的第一存储模块中存储的部分算子,得到第二运行结果;该方法还包括:第二处理模块根据第一运行结果和第二运行结果,确定第i个算子的运行结果。
17、在一些可能的实施方式中,该方法还包括:控制模块根据第i个算子的类型,确定目标运算方式;第二处理模块根据第一运行结果和第二运行结果,确定第i个算子的运行结果,包括:第二处理模块对第一运行结果和第二运行结果,执行目标运算方式指示的运算,得到第i个算子的运行结果。
18、在一些可能的实施方式中,为一个第一处理模块分配的权重参数的数据量,小于或等于为第二处理模块分配的权重参数的数据量。
19、在一些可能的实施方式中,每一个处理模块基于为自身分配的权重参数,运行第i个算子中与权重参数对应的部分算子,得到运行结果,包括:每一个第三处理模块运行第i个算子的部分算子,得到第三运行结果;每一个第三处理模块将第三运行结果发送至对应的第四处理模块;每一个第四处理模块运行第i个算子的部分算子,得到第四运行结果;每一个第四处理模块根据第三运行结果和第四运行结果,输出第五运行结果;该方法还包括:每一个第四处理模块将第五运行结果发送至控制模块;控制模块根据第五运行结果,输出第i个算子的运行结果。
20、在一些可能的实施方式中,该方法还包括:控制模块根据神经网络的权重参数的数据量,确定运行神经网络需要的处理模块的数量。
21、第三方面,本申请提供一种电子设备,包括:电路板;如上述第一方面的数据处理电路,其中,数据处理电路位于电路板上。
22、本申请提供的技术方案与现有技术相比存在的有本文档来自技高网...
【技术保护点】
1.一种数据处理电路,其特征在于,包括:控制模块和多个处理模块;
2.根据权利要求1所述的数据处理电路,其特征在于,
3.根据权利要求1或2所述的数据处理电路,其特征在于,
4.根据权利要求3所述的数据处理电路,其特征在于,所述数据处理电路还包括多个第一存储模块,其中,所述多个第一存储模块中的一个第一存储模块对应所述多个处理模块中的一个处理模块,所述一个第一存储模块用于存储所述第i个算子的至少部分算子;
5.根据权利要求4所述的数据处理电路,其特征在于,所述多个处理模块包括至少一个第一处理模块和一个第二处理模块;
6.根据权利要求5所述的数据处理电路,其特征在于,
7.根据权利要求5或6所述的数据处理电路,其特征在于,
8.根据权利要求1所述的数据处理电路,其特征在于,所述多个处理模块包括第三处理模块和第四处理模块,所述第三处理模块与所述第四处理模块一一对应;
9.根据权利要求1所述的数据处理电路,其特征在于,
10.一种数据处理方法,其特征在于,应用于如权利要求1至9任一
11.根据权利要求10所述的方法,其特征在于,所述方法还包括:
12.根据权利要求10或11所述的方法,其特征在于,所述方法还包括:
13.根据权利要求12所述的方法,其特征在于,所述控制模块将分割后的每一部分权重参数发送至对应的处理模块,包括:
14.根据权利要求13所述的方法,其特征在于,所述每一个处理模块基于为自身分配的权重参数,运行所述第i个算子中与所述权重参数对应的部分算子,得到运行结果,包括:
15.根据权利要求14所述的方法,其特征在于,所述方法还包括:
16.根据权利要求14或15所述的方法,其特征在于,
17.根据权利要求10所述的方法,其特征在于,
18.根据权利要求10所述的方法,其特征在于,所述方法还包括:
19.一种电子设备,其特征在于,包括:
...【技术特征摘要】
1.一种数据处理电路,其特征在于,包括:控制模块和多个处理模块;
2.根据权利要求1所述的数据处理电路,其特征在于,
3.根据权利要求1或2所述的数据处理电路,其特征在于,
4.根据权利要求3所述的数据处理电路,其特征在于,所述数据处理电路还包括多个第一存储模块,其中,所述多个第一存储模块中的一个第一存储模块对应所述多个处理模块中的一个处理模块,所述一个第一存储模块用于存储所述第i个算子的至少部分算子;
5.根据权利要求4所述的数据处理电路,其特征在于,所述多个处理模块包括至少一个第一处理模块和一个第二处理模块;
6.根据权利要求5所述的数据处理电路,其特征在于,
7.根据权利要求5或6所述的数据处理电路,其特征在于,
8.根据权利要求1所述的数据处理电路,其特征在于,所述多个处理模块包括第三处理模块和第四处理模块,所述第三处理模块与所述第四处理模块一一对应;
9.根据权利要求1所述的数据处理电路,其特...
【专利技术属性】
技术研发人员:胡鹏超,
申请(专利权)人:北京算能科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。