System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及计算机信息处理领域,且更具体地涉及张量维度切分方法、张量维度切分系统、电子设备和非暂时存储介质。
技术介绍
1、近几年来,计算机在处理深度学习神经网络时会涉及二维或更高维张量的卷积运算或矩阵乘运算。但是在实际运算时,张量的高度或宽度等维度有时可能会超出硬件加速器的相关限制,或者,为了利用多个计算单元来并行计算针对张量的卷积运算或矩阵乘运算,都需要对张量的某个维度进行切分(或称为拆分)。
技术实现思路
1、根据本申请的一个方面,提供一种张量维度切分方法,包括:根据张量的各个维度的切分粒度对选择的一个或多个维度进行切分,得到所述选择的一个或多个维度被切分后的张量分块数;根据所述张量分块数和多个可用并行计算单元的数量,确定对所述选择的一个或多个维度进行切分是否是最佳切分策略。
2、根据本申请的另一个方面,提供一种张量维度切分系统,包括:切分装置,被配置为根据张量的各个维度的切分粒度对选择的一个或多个维度进行切分,得到所述选择的一个或多个维度被切分后的张量分块数;确定装置,被配置为根据所述张量分块数和多个可用并行计算单元的数量,确定对所述选择的一个或多个维度进行切分是否是最佳切分策略。
3、根据本申请的另一个方面,提供一种电子设备,包括:存储器,用于存储指令;处理器,用于读取所述存储器中的指令,并执行根据本申请的实施例的方法。
4、根据本申请的另一个方面,提供一种非暂时存储介质,其上存储有指令,其中,所述指令在被处理器读取时,使得所述处理器执行
本文档来自技高网...【技术保护点】
1.一种张量维度切分方法,包括:
2.根据权利要求1所述的方法,其中,根据所述张量分块数和多个可用并行计算单元的数量,确定对所述选择的一个或多个维度进行切分是否是最佳切分策略包括:
3.根据权利要求2所述的方法,其中,根据所述张量分块数,如果所述张量分块数能最大化利用所述数量个可用并行计算单元,则确定对所述选择的一个或多个维度进行切分是最佳切分策略包括:
4.根据权利要求2所述的方法,其中,根据所述张量分块数,如果所述张量分块数能最大化利用所述数量个可用并行计算单元,则确定对所述选择的一个或多个维度进行切分是最佳切分策略包括:
5.根据权利要求4所述的方法,其中,根据所述张量分块数,如果所述张量分块数能最大化利用所述数量个可用并行计算单元,则确定对所述选择的一个或多个维度进行切分是最佳切分策略包括:
6.根据权利要求2所述的方法,其中,根据所述张量分块数,如果所述张量分块数能最大化利用所述数量个可用并行计算单元,则确定对所述选择的一个或多个维度进行切分是最佳切分策略包括:
7.根据权利要求3或5所述的方法,其
8.根据权利要求6所述的方法,其中,利用所述可用并行计算单元进行所述张量按所述最佳切分策略被切分后得到的多个张量分块的算子运算包括:
9.根据权利要求6所述的方法,其中,利用所述可用并行计算单元进行所述张量按所述最佳切分策略被切分后得到的多个张量分块的算子运算包括:
10.根据权利要求1所述的方法,其中,所述选择的一个或多个维度通过如下方式来选择:
11.根据权利要求1所述的方法,其中,所述选择的一个或多个维度通过如下方式来选择:
12.根据权利要求1所述的方法,其中,根据张量的各个维度的切分粒度对选择的一个或多个维度进行切分,得到所述选择的一个或多个维度被切分后的张量分块数包括:
13.根据权利要求1所述的方法,其中,所述方法还包括:
14.一种张量维度切分系统,包括:
15.一种电子设备,包括:
16.一种非暂时存储介质,其上存储有指令,
...【技术特征摘要】
1.一种张量维度切分方法,包括:
2.根据权利要求1所述的方法,其中,根据所述张量分块数和多个可用并行计算单元的数量,确定对所述选择的一个或多个维度进行切分是否是最佳切分策略包括:
3.根据权利要求2所述的方法,其中,根据所述张量分块数,如果所述张量分块数能最大化利用所述数量个可用并行计算单元,则确定对所述选择的一个或多个维度进行切分是最佳切分策略包括:
4.根据权利要求2所述的方法,其中,根据所述张量分块数,如果所述张量分块数能最大化利用所述数量个可用并行计算单元,则确定对所述选择的一个或多个维度进行切分是最佳切分策略包括:
5.根据权利要求4所述的方法,其中,根据所述张量分块数,如果所述张量分块数能最大化利用所述数量个可用并行计算单元,则确定对所述选择的一个或多个维度进行切分是最佳切分策略包括:
6.根据权利要求2所述的方法,其中,根据所述张量分块数,如果所述张量分块数能最大化利用所述数量个可用并行计算单元,则确定对所述选择的一个或多个维度进行切分是最佳切分策略包括:
7.根据权利要求3或...
【专利技术属性】
技术研发人员:请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,
申请(专利权)人:北京壁仞科技开发有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。