模型的运行方法、数据处理方法、电子设备及介质技术

本申请涉及数据处理技术领域，公开了一种模型的运行方法、数据处理方法、电子设备及介质。其中，模型的运行方法包括：获取卷积神经网络模型，卷积神经网络模型包括至少一个卷积核，对卷积核的P个卷积层的排布顺序进行调整，以使得卷积核的M*N列数据中的每列数据中从其中一端开始具有连续第一设定数量的数据为零数据；将卷积核的M*N列数据中的每列数据中从其中一端开始第二设定数量的零数据作为稀疏组数据，剩余数据作为稠密组数据，以获取调整后的卷积神经网络模型。本申请实施例提供的模型运行方法能够在进行数据处理时，将输入数据只与稠密组数据进行卷积计算，从而在不影响计算结果的同时极大的减小电子设备的计算量，提升数据处理速度。升数据处理速度。升数据处理速度。

【技术实现步骤摘要】
模型的运行方法、数据处理方法、电子设备及介质


[0001]本申请涉及数据处理
，特别涉及一种模型的运行方法、数据处理方法、电子设备及介质。

技术介绍

[0002]随着深度学习技术的蓬勃发展，各电子设备中的人工智能处理器中均嵌入了多种神经网络模型，用于对数据进行处理。例如，对图像进行处理的图像处理模型等。
[0003]如图1所示，电子设备中的人工智能处理器中嵌入有图像处理模型，当电子设备获取到图像10后，可以将图像10输入至图像处理模型20中，图像处理模型20可以对图像10进行特征提取，查找边缘等处理。图1中所示的图像处理模型20为卷积神经网络模型，该模型中包括卷积核，通过处理器执行卷积核与输入的图像数据之间的卷积运算，可以获取相应的图像处理结果。目前，处理器需要处理的数据越来越多，因此处理器运算量较大。

技术实现思路

[0004]为解决上述问题，本申请实施例提供了一种卷积神经网络模型的运行方法、数据处理方法、电子设备及介质。
[0005]第一方面，本申请实施例提供了一种卷积神经网络模型的运行方法，包括：
[0006]获取卷积神经网络模型，所述卷积神经网络模型包括至少一个卷积核，并且所述卷积核包括P个卷积层，所述P个卷积层中每个卷积层包括M*N个数据；
[0007]对所述卷积核的P个卷积层的排布顺序进行调整，以使得所述卷积核的M*N 列数据中的每列数据中从其中一端开始具有连续第一设定数量的数据为零数据；
[0008]将所述卷积核的M*N列数据中的每列数据中从所述其中一端开始第二设定数量的零数据作为稀疏组数据，剩余数据作为稠密组数据，以获取调整后的卷积神经网络模型。
[0009]可以理解，本申请实施例中提供的模型运行方法能够对卷积神经网络模型等神经网络模型中的卷积核中的卷积层进行重新排序，获取重排后的模型，然后可以将重排后的模型中的模型数据分为并未全为零的稠密组数据和均为零的稀疏组数据。
[0010]本申请实施例提供的模型运行方法能够使得当输入数据输入电子设备的卷积模型时，由于模型数据中的稀疏组数据可以为均为零的数据组，因在卷积计算中一般为乘加计算，零与任何数相乘都为零，不将输入数据与稀疏组数据进行计算也不会影响数据处理结果，因此电子设备可以跳过稀疏组数据，只将稠密组数据与输入数据进行卷积计算。上述实施方案能够在不影响计算结果的同时极大的减小电子设备的计算量，提升数据处理速度。
[0011]具体的，对所述卷积核的P个卷积层的排布顺序进行调整的方式可以为对P 个卷积层进行不断聚类并排序，以使得卷积核中各通道方向(列方向)数据中上边的零数据最多。其中，第一设定数量可以为对卷积核中的卷积层进行聚类重排能够获得的卷积核的一端的零数据的总量最多的情况下，每列数据中上方的零数据的数量。可以理解，如后文实施
例中所述，每列数据中从一端(例如上方)起至第一个不为零数据的数据之间零数据的数量可以不同。本申请实施例中对所述卷积核的P个卷积层的排布顺序进行调整的目的是为了达到使得卷积核中各通道方向(列方向)的数据中上边的零数据尽量多以至达到最多的情况。
[0012]可以理解，本申请实施例中提及的卷积神经网络模型与卷积模型为同一概念。本申请是以卷积模型中的其中一个卷积核为例进行模型运行方法的说明，在实际应用中，模型运行方法包括对卷积模型中的所有卷积核进行重排和分组。
[0013]在上述第一方面的一种可能的实现中，所述对所述卷积核的P个卷积层的排布顺序进行调整，以使得所述卷积核的M*N列数据中的每列数据中从其中一端开始具有连续第一设定数量的数据为零数据，包括：
[0014]将所述卷积核的P个卷积层根据零数据位置分布的相似程度进行聚类并排序，以使得所述卷积核的M*N列数据中的每列数据中从其中一端开始具有连续第一设定数量的数据为零数据。
[0015]在上述第一方面的一种可能的实现中，所述第一设定数量与所述第二设定数量相等。
[0016]可以理解，在一些实施例中，可以将卷积核中每列数据中从上至下第一个不为零的数据之前的数据作为稀疏组数据，剩余作为稠密组数据。
[0017]在一些实施例中，也可以将卷积核中每列数据中从上至下第一个不为零的数据之前的部分数据作为稀疏组数据，即第二设定数量小于第一设定数量，剩余作为稠密组数据。例如，在一些实施例中，为了更加符合处理器的运算方式，可以调整稠密组数据和稀疏组数据的分割方式符合处理器的运算规律。例如，若在一些处理器中，单次可以运行8通道的数据；若卷积核的层数如图6所示为16层，且重排后的卷积核中各通道方向数据中从上至下第一个不为零的数据之前的数据超过8个，例如为9个，则也可以将卷积核中各通道方向数据中的前八个数据作为稀疏组数据，后八个数据作为稠密组数据，并将稠密组数据参与运算，稀疏组不参与运算。如此能够有效提升计算速度。
[0018]在上述第一方面的一种可能的实现中，所述稀疏组数据为所述卷积核的M*N 列数据中的每列数据中从所述其中一端开始第一个不为零的数据之前的数据。
[0019]本申请实施例第二方面提供一种数据处理方法，包括：
[0020]获取输入数据；
[0021]将所述输入数据与所述卷积神经网络模型中的稠密组数据进行计算，以获取数据处理结果，其中所述卷积神经网络模型包括至少一个卷积核，并且所述卷积核包括P个卷积层，每个卷积层包括M*N个数据；
[0022]其中，所述卷积核的M*N列数据中的每列数据中其中一端具有连续第一设定数量的数据为零数据；所述卷积核的M*N列数据中的每列数据中从所述其中一端开始第二设定数量的零数据为所述卷积神经网络模型中的稀疏组数据，剩余数据为所述卷积神经网络模型中的稠密组数据。
[0023]在上述第二方面的一种可能的实现中，所述第一设定数量与所述第二设定数量相等。
[0024]在上述第二方面的一种可能的实现中，所述稀疏组数据为所述卷积核的M*N 列数
据中的每列数据中从所述其中一端开始第一个不为零的数据之前的数据。
[0025]本申请第三方面提供一种片上系统，其特征在于，包括：指令，所述指令用于执行上述卷积神经网络模型的运行方法和数据处理方法。
[0026]本申请第四方面提供一种电子设备，包括：
[0027]存储器，用于存储由所述电子设备的一个或多个处理器执行的指令和数据；
[0028]处理器，是所述电子设备的所述一个或多个处理器之一，用于执行所述卷积神经网络模型的运行方法和数据处理方法。
[0029]本申请第五方面提供一种计算机存储介质，其特征在于，所述计算机存储介质上存储有指令，所述指令在执行时使计算机执行所述卷积神经网络模型的运行方法和数据处理方法。
附图说明
[0030]图1根据本申请的一些实施例，示出了一种卷积神经网络模型的应用场景示意图；
[0031]图2根据本申请的一些实施例，示出了一种卷积核的重排方式示意图；
[0032]图3根据本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种卷积神经网络模型的运行方法，其特征在于，包括：获取卷积神经网络模型，所述卷积神经网络模型包括至少一个卷积核，并且所述卷积核包括P个卷积层，所述P个卷积层中每个卷积层包括M*N个数据；对所述卷积核的P个卷积层的排布顺序进行调整，以使得所述卷积核的M*N列数据中的每列数据中从其中一端开始具有连续第一设定数量的数据为零数据；将所述卷积核的M*N列数据中的每列数据中从所述其中一端开始第二设定数量的零数据作为稀疏组数据，剩余数据作为稠密组数据，以获取调整后的卷积神经网络模型。2.根据权利要求1所述的卷积神经网络模型的运行方法，其特征在于，所述对所述卷积核的P个卷积层的排布顺序进行调整，以使得所述卷积核的M*N列数据中的每列数据中从其中一端开始具有连续第一设定数量的数据为零数据，包括：将所述卷积核的P个卷积层根据零数据位置分布的相似程度进行聚类并排序，以使得所述卷积核的M*N列数据中的每列数据中从其中一端开始具有连续第一设定数量的数据为零数据。3.根据权利要求1
‑
2任一项所述的卷积神经网络模型的运行方法，其特征在于，所述第一设定数量与所述第二设定数量相等。4.根据权利要求1所述的卷积神经网络模型的运行方法，其特征在于，所述稀疏组数据为所述卷积核的M*N列数据中的每列数据中从所述其中一端开始第一个不为零的数据之前的数据。5.一种数据处理方法，其特征在于，包括：获取输入数据；将所述输入数据与卷积神经网络模型中的稠密组数据进行计算，以获取数据处理结果，其中所...

【专利技术属性】
技术研发人员：刘超，黄敦博，
申请(专利权)人：安谋科技中国有限公司，
类型：发明
国别省市：