【技术实现步骤摘要】
本申请涉及机器学习领域，具体而言，涉及一种张量数据处理方法、装置、设备及存储介质。
技术介绍
1、现有的机器学习中，机器学习模型如神经网络训练一次迭代(iteration)是指将样本数据送进模型，进行前向传播，计算模型的输出与样本标签之间的损失，然后对模型进行反向传播计算得到模型的参数的过程。推理的一次迭代即将样本数据送入模型，进行前向传播，得到模型输出。batch size(n)是指一次迭代使用的数据量，在图像处理中表示图像的个数。每次只输入一张图像进入模型，循环n次完成n张图像的计算。
2、使用上述现有技术的方法，由于每输入一张图像都将读取模型的算子进行一次计算，n张图像的计算将导致读取n次算子。示例的，在使用神经网络进行卷积计算时，每次对图像进行计算，将读取神经网络的算子即kernel(卷积核)进行计算，若输入图像偏小，将导致读取一次kernel能够反复利用的次数更少。
3、因此，一次只运行一张图片的情况下，更容易遇到算子读取的带宽瓶颈，可能无法充分发挥深度学习模型的训练设备的算力优势。
技术实现思路
1、本申请实施例的目的在于提供一种张量数据处理方法、装置、设备及存储介质，用以提高对算子的利用率，缓解带宽瓶颈，提升批次数据的运行效率。
2、第一方面，本申请提供一种张量数据处理方法，所述方法包括：将同一批次内的所有张量进行排列，生成第一数组，每一所述张量的维度包括宽度、高度；将所述第一数组的批次维度分解为融合宽度、融合高度两个维度，得到第二
3、上述张量数据处理方法，将原始数据在宽度和高度上进行拼接，生成融合数据，模型可以对融合数据进行一次性计算，而无需一一对原始数据分别进行计算，从而提高对算子的利用率，缓解带宽瓶颈，提升批次数据的处理效率。
4、在本申请一个可选实施例中，所述方法还包括：获取第一计算流程，所述第一计算流程的输入数据为所述融合数据，所述第一计算流程包括至少一个计算步骤，所述计算步骤包括二维卷积计算；计算所述融合数据经所述第一计算流程后输出数据中的垃圾数据大小，所述垃圾数据为不属于任一所述张量进行计算得到的数据；依据所述垃圾数据的大小计算得到切割点，所述切割点用于表示所述张量经所述第一计算流程后的位置。
5、上述实施例中，将计算融合数据经处理后输出数据中切割点的位置，依据切割点可以得到张量经处理后的输出，便利于用户的数据获取。
6、在本申请一个可选实施例中，所述计算所述融合数据经所述第一计算流程后输出数据中的垃圾数据大小，包括：分别计算所述融合数据的宽、高经所述第一计算流程后的输出，得到第一宽度和第一高度；分别计算所述张量的宽、高经所述第一计算流程后的输出，得到第二宽度和第二高度；依据所述第一宽度和所述第二宽度计算得到所述垃圾数据的宽；依据所述第一高度和所述第二高度计算得到所述垃圾数据的高。
7、上述实施例中，通过融合数据和张量之间的关系，计算垃圾数据的宽和高，能够快速、准确的计算出垃圾数据的大小。
8、在本申请一个可选实施例中，所述依据所述垃圾数据的大小计算得到切割点，包括：获取第一切割点的坐标，所述第一切割点的横纵坐标均为零；获取第二切割点的坐标，所述第二切割点的横坐标为所述第一宽度与所述垃圾数据的宽之和，纵坐标为零；获取第三切割点的坐标，所述第三切割点的横坐标为零，纵坐标为所述第一高度与所述垃圾数据的高之和；获取第四切割点的坐标，所述第四切割点的横坐标为所述第一宽度与所述垃圾数据的宽之和，纵坐标为所述第一高度与所述垃圾数据的高之和。
9、上述实施例中，通过张量的宽、高与垃圾数据的宽、高之间的关联关系，能够快速、准确的计算出切割点的位置。
10、在本申请一个可选实施例中，所述方法还包括：获取第二计算流程，所述第二计算流程为逐级进行多个计算步骤，所述第二计算流程包括至少一个填充步骤，所述融合数据为所述第二计算流程的输入数据；确定所述第二计算流程中目标填充步骤；获取所述目标填充步骤对应的更新值，所述更新值是依据所述目标填充步骤的填充行数计算得到的，所述更新值用于指定所述目标填充步骤的输入数据的理想大小；从所述目标填充步骤开始，按照所述第二计算流程的层级的相反顺序逐级进行反向更新，直到满足预设的停止条件，停止反向更新；其中，所述反向更新包括：依据当前级计算步骤的输入数据的推导大小计算上一级计算步骤的输入数据的推导大小，所述目标填充步骤的更新值为所述目标填充步骤的推导大小，所述停止条件包括：当前计算步骤的输入数据为所述融合数据、当前步骤的输入数据不跟随当前计算步骤的输出数据的改变进行改变；依据目标计算步骤的推导大小更新所述目标计算步骤输入数据的大小，所述目标计算步骤为满足停止条件时的计算步骤。
11、上述实施例中，利用垃圾数据的掩码进行填充，无需将数据进行还原后填充，减少了计算步骤，提高了计算效率。
12、在本申请一个可选实施例中，所述确定所述第二计算流程中目标填充步骤，包括：获取所述计算步骤中所有填充步骤；判断每一填充步骤的输入数据是否满足对应的大小条件；若存在任一填充步骤的输入数据不满足对应的大小条件，依据每一填充步骤的计算顺序确定目标填充步骤。
13、上述实施例中，通过填充步骤的输入数据大小判断出所有不能利用垃圾数据进行填充的步骤，进一步的，依据计算顺序从不能进行填充的步骤中准确地确定出目标填充步骤。
14、在本申请一个可选实施例中，所述大小条件包括宽度条件和高度条件，所述判断每一填充步骤的输入数据是否满足对应的大小条件，包括：判断每一填充步骤的输入数据的宽度是否满足对应的宽度条件；判断每一填充步骤的输入数据的高度是否满足对应的高度条件；若填充步骤的输入数据的宽度或者高度不满足对应条件，则表明填充步骤不满足对应的大小条件。
15、上述实施例中，分别在宽和高两个维度分别对填充步骤的输入数据大小进行判断，可以准确、快速的查找出不满足条件的填充步骤。
16、在本申请一个可选实施例中，所述目标填充步骤包括目标宽度填充步骤和目标高度填充步骤，所述依据每一填充步骤的计算顺序及填充行数确定目标填充步骤，包括：若存在任一填充步骤的输入数据的宽度不满足对应的宽度条件，依据每一填充步骤的计算顺序确定目标宽度填充步骤；若存在任一填充步骤的输入数据的高度不满足对应的高度条件，依据每一填充步骤的计算顺序确定目标高度填充步骤。
17、上述实施例中，在宽和高两个维度确定分别目标填充步骤，从而可以在宽和高两个维度进行推导，使填充本文档来自技高网...
【技术保护点】
1.一种张量数据处理方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
3.根据权利要求2所述的方法，其特征在于，所述计算所述融合数据经所述第一计算流程后输出数据中的垃圾数据大小，包括：
4.根据权利要求3所述的方法，其特征在于，所述依据所述垃圾数据的大小计算得到切割点，包括：
5.根据权利要求1所述的方法，其特征在于，所述方法还包括：
6.根据权利要求5所述的方法，其特征在于，所述确定所述第二计算流程中目标填充步骤，包括：
7.根据权利要求6所述的方法，其特征在于，所述大小条件包括宽度条件和高度条件，所述判断每一填充步骤的输入数据是否满足对应的大小条件，包括：
8.根据权利要求7所述的方法，其特征在于，所述目标填充步骤包括目标宽度填充步骤和目标高度填充步骤，所述依据每一填充步骤的计算顺序及填充行数确定目标填充步骤，包括：
9.根据权利要求8所述的方法，其特征在于，所述更新值包括所述目标宽度填充步骤的更新宽度和所述目标高度填充步骤的更新高度，所
10.根据权利要求7所述的方法，其特征在于，所述宽度大小条件包括：
11.根据权利要求7所述的方法，其特征在于，所述宽度大小条件包括：
12.根据权利要求11所述的方法，其特征在于，所述方法还包括：
13.根据权利要求12所述的方法，其特征在于，所述计算所述填充步骤的卷积核在所述填充步骤的宽度最小移动步数，包括：
14.根据权利要求7所述的方法，其特征在于，所述高度大小条件包括：
15.根据权利要求7所述的方法，其特征在于，所述高度大小条件包括：
16.根据权利要求15所述的方法，其特征在于，所述方法还包括：
17.根据权利要求8所述的方法，其特征在于，所述依据每一填充步骤的计算顺序确定目标宽度填充步骤，包括：
18.根据权利要求8所述的方法，其特征在于，依据每一填充步骤的计算顺序确定目标宽度填充步骤，包括：
19.根据权利要求13所述的方法，其特征在于，所述计算所述填充步骤的宽度起始点的坐标，包括：
20.根据权利要求13所述的方法，其特征在于，所述计算所述填充步骤的宽度终点的坐标，包括：
21.根据权利要求13所述的方法，其特征在于，所述卷积核在所述宽度起始点和所述宽度终止点之间的移动距离为所述宽度起始点与所述宽度终止点之差加一。
22.根据权利要求13所述的方法，其特征在于，所述依据所述移动距离和所述卷积核的宽度计算得到所述宽度最小移动步数，包括：
23.根据权利要求12所述的方法，其特征在于，所述依据所述宽度最小移动步数和宽度填充行数计算得到所述填充步骤对应的最小垃圾数据宽度，包括：
24.根据权利要求12所述的方法，其特征在于，所述依据所述最小垃圾数据宽度计算得到所述填充步骤的更新宽度，包括：
25.根据权利要求8所述的方法，其特征在于，所述依据当前级计算步骤的输入数据的推导值宽度计算上一级计算步骤的输入数据的推导宽度，包括：
26.根据权利要求25所述的方法，其特征在于，所述计算所述上一级计算步骤的输出数据中垃圾数据宽度计算所述上一级计算步骤的输入数据中垃圾数据宽度，包括：
27.根据权利要求25所述的方法，其特征在于，所述依据所述上一级计算步骤的输入数据中垃圾数据宽度计算上一级计算步骤的输入数据的宽度，包括：
28.一种张量数据处理装置，其特征在于，所述装置包括：
29.一种电子设备，特征在于，包括：处理器和存储器；所述处理器和所述存储器通过总线完成相互间的通信；所述存储器存储有可被所述处理器执行的第一程序指令、第二程序指令、训练数据，所述处理器执行所述第一程序指令运行机器学习模型对所述训练数据进行处理，所述处理器执行所述第二程序指令能够实现如权利要求1-27任一项所述的张量数据处理方法。
30.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序指令，所述计算机程序指令被计算机读取并运行时，执行如权利要求1-27任一项所述的张量数据处理方法。
...【技术特征摘要】
1.一种张量数据处理方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
3.根据权利要求2所述的方法，其特征在于，所述计算所述融合数据经所述第一计算流程后输出数据中的垃圾数据大小，包括：
4.根据权利要求3所述的方法，其特征在于，所述依据所述垃圾数据的大小计算得到切割点，包括：
5.根据权利要求1所述的方法，其特征在于，所述方法还包括：
6.根据权利要求5所述的方法，其特征在于，所述确定所述第二计算流程中目标填充步骤，包括：
7.根据权利要求6所述的方法，其特征在于，所述大小条件包括宽度条件和高度条件，所述判断每一填充步骤的输入数据是否满足对应的大小条件，包括：
8.根据权利要求7所述的方法，其特征在于，所述目标填充步骤包括目标宽度填充步骤和目标高度填充步骤，所述依据每一填充步骤的计算顺序及填充行数确定目标填充步骤，包括：
9.根据权利要求8所述的方法，其特征在于，所述更新值包括所述目标宽度填充步骤的更新宽度和所述目标高度填充步骤的更新高度，所述从所述目标填充计算步骤开始，按照所述第二计算流程的层级的相反顺序逐级进行反向更新，直到满足预设的停止条件，停止反向更新，包括：
10.根据权利要求7所述的方法，其特征在于，所述宽度大小条件包括：
11.根据权利要求7所述的方法，其特征在于，所述宽度大小条件包括：
12.根据权利要求11所述的方法，其特征在于，所述方法还包括：
13.根据权利要求12所述的方法，其特征在于，所述计算所述填充步骤的卷积核在所述填充步骤的宽度最小移动步数，包括：
14.根据权利要求7所述的方法，其特征在于，所述高度大小条件包括：
15.根据权利要求7所述的方法，其特征在于，所述高度大小条件包括：
16.根据权利要求15所述的方法，其特征在于，所述方法还包括：
17.根据权利要求8所述的方法，其特征在于，所述依据每一填充步骤的计算顺序确定目标宽度填充步骤，包括：
18.根据权利要求8所述的方法，其特征在于，依据...
【专利技术属性】
技术研发人员：蔡环宇，查凯南，张翔，李月男，杨宗武，邓京，
申请(专利权)人：芯原微电子成都有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。