基于硬件环境的数据操作方法、装置、设备及存储介质制造方法及图纸

本发明专利技术公开了一种基于硬件环境的数据操作方法、装置、设备及存储介质，该方法包括：确定待操作数据及目标硬件，所述目标硬件为当前需要对所述待操作数据进行卷积运算的硬件资源；确定所述目标硬件能够执行并行计算的最大通道数量，并确定与该最大通道数量对应的数据布局为最优数据布局；将所述待操作数据的数据布局转换为所述最优数据布局，并在转换完成后，利用所述目标硬件对所述待操作数据进行卷积运算。本申请使得在实现待操作数据的卷积运算时达到数据操作的最大并行程序，有效提高卷积运算的效率，而卷积运算占据CNN将近90％的计算时间，因此本申请能够通过提高卷积运算的效率进而有效提高CNN的执行效率。

【技术实现步骤摘要】
基于硬件环境的数据操作方法、装置、设备及存储介质
本专利技术涉及人工智能
，更具体地说，涉及一种基于硬件环境的数据操作方法、装置、设备及存储介质。
技术介绍
人工智能在各个领域的发展迅速，而作为人工智能最重要的代表之一，CNN(ConvolutionalNeuralNetworks，卷积神经网络)在图像分析和处理领域取得了众多突破性的进展，己经广泛应用于各类图像相关的应用中。现有技术中基本都是将训练好的CNN的模型直接部署到现有计算平台上进行预测操作，而在这种方式下如何提高CNN的执行效率，则成为本领域技术人员亟待解决的问题。
技术实现思路
本专利技术的目的是提供一种基于硬件环境的数据操作方法、装置、设备及存储介质，能够通过提高卷积运算的效率进而有效提高CNN的执行效率。为了实现上述目的，本专利技术提供如下技术方案：一种基于硬件环境的数据操作方法，包括：确定待操作数据及目标硬件；其中，所述目标硬件为当前需要对所述待操作数据进行卷积运算的硬件资源；确定所述目标硬件能够执行并行计算的最大通道数量，并确定与该最大通道数量对应的数据布局为最优数据布局；将所述待操作数据的数据布局转换为所述最优数据布局，并在转换完成后，利用所述目标硬件对所述待操作数据进行卷积运算。优选的，利用所述目标硬件对所述待操作数据进行卷积运算，包括：获取多个核参数，并依次利用所述目标硬件对所述待操作数据及每个所述核参数进行卷积运算；所述方法还包括：在利用所述目标硬件对除第一个所述核参数外的其他核参数与所述待操作进行卷积运算的同时，对上一个进行卷积运算的所述核参数对应卷积运算的结果进行通道不相关的预设运算。优选的，对所述待操作数据依次进行与任意核参数的卷积运算及所述预设运算，包括：按照预设运算符依次对所述待操作数据进行与任意核参数的卷积运算及所述预设运算，并将进行所述预设运算后所得结果保存；其中，所述预设运算符为对所述卷积运算的运算符及所述预设运算的运算符融合所得。优选的，在对所述待操作数据进行所述卷积运算及所述预设运算之前，还包括：预测在对所述待操作数据进行操作的过程中需要存储的张量数据及常量数据分别所需存储空间，并为所述待操作数据分配相应存储空间的内存，以供实现相应的数据存储；其中，所述操作包括卷积运算及预设运算。优选的，为所述待操作数据分配相应存储空间的内存，包括：为对所述待操作数据进行卷积运算时所需的多个核参数，分配相应存储空间的地址连续的内存，以供实现每个所述核参数的存储。优选的，对所述待操作数据进行所述卷积运算及所述预设运算，包括：通过调度与每项操作分别对应的线程，实现对所述待操作数据的所述卷积运算及所述预设运算。优选的，还包括：在完成对所述待操作数据的每项操作后，在指定寄存器中置相应的标志位，以基于该标志位确定需要对所述待操作数据进行的操作。一种基于硬件环境的数据操作装置，包括：第一确定模块，用于：确定待操作数据及目标硬件；其中，所述目标硬件为当前需要对所述待操作数据进行卷积运算的硬件资源；第二确定模块，用于：确定所述目标硬件能够执行并行计算的最大通道数量，并确定与该最大通道数量对应的数据布局为最优数据布局；操作模块，用于：将所述待操作数据的数据布局转换为所述最优数据布局，并在转换完成后，利用所述目标硬件对所述待操作数据进行卷积运算。一种基于硬件环境的数据操作设备，包括：存储器，用于存储计算机程序；处理器，用于执行所述计算机程序时实现如上任一项所述基于硬件环境的数据操作方法的步骤。一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上任一项所述基于硬件环境的数据操作方法的步骤。本专利技术提供了一种基于硬件环境的数据操作方法、装置、设备及存储介质，该方法包括：确定待操作数据及目标硬件，所述目标硬件为当前需要对所述待操作数据进行卷积运算的硬件资源；确定所述目标硬件能够执行并行计算的最大通道数量，并确定与该最大通道数量对应的数据布局为最优数据布局；将所述待操作数据的数据布局转换为所述最优数据布局，并在转换完成后，利用所述目标硬件对所述待操作数据进行卷积运算。本申请在确定出需要实现对待操作数据实现卷积运算的硬件后，将待操作数据转换为该硬件能够并行计算的最大通道数量的数据布局，利用该硬件对该数据布局的待操作数据进行卷积运算，能够充分利用该硬件所提供的并行操作资源，使得在实现待操作数据的卷积运算时达到数据操作的最大并行程序，有效提高卷积运算的效率，而卷积运算占据CNN将近90％的计算时间，因此本申请能够通过提高卷积运算的效率进而有效提高CNN的执行效率。附图说明为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。图1为本专利技术实施例提供的一种基于硬件环境的数据操作方法的流程图；图2为本专利技术实施例提供的一种基于硬件环境的数据操作方法中一个双层卷积神经网络的示例计算图；图3为本专利技术实施例提供的一种基于硬件环境的数据操作方法中Featuremap数据拆分的示例图；图4为本专利技术实施例提供的一种基于硬件环境的数据操作方法中DSP阵列的示意图；图5为本专利技术实施例提供的一种基于硬件环境的数据操作方法中多路并行的卷积运算流程的示例图；图6为本专利技术实施例提供的一种基于硬件环境的数据操作方法中待操作数据分别与多个核参数进行卷积运算的示例图；图7为本专利技术实施例提供的一种基于硬件环境的数据操作方法中运算符融合的示例图；图8为本专利技术实施例提供的一种基于硬件环境的数据操作方法中线程调度的示例图；图9为本专利技术实施例提供的一种基于硬件环境的数据操作装置的结构示意图。具体实施方式下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。请参阅图1，其示出了本专利技术实施例提供的一种基于硬件环境的数据操作方法的流程图，可以包括：S11：确定待操作数据及目标硬件；其中，目标硬件为当前需要对待操作数据进行卷积运算的硬件资源。本专利技术实施例提供的一种基于硬件环境的数据操作方法的执行主体可以为对应的数据操作装置。其中，待操作数据可以是指未进行过任何卷积运算需要进行卷积运算的数据，也可以是指进行过相应卷积运算需要再次进行卷积运算的数据，均在本专利技术的保护范围之内。需要说明的是，本申请可以基于FPGA(Field-Pro本文档来自技高网...

【技术保护点】
1.一种基于硬件环境的数据操作方法，其特征在于，包括：/n确定待操作数据及目标硬件；其中，所述目标硬件为当前需要对所述待操作数据进行卷积运算的硬件资源；/n确定所述目标硬件能够执行并行计算的最大通道数量，并确定与该最大通道数量对应的数据布局为最优数据布局；/n将所述待操作数据的数据布局转换为所述最优数据布局，并在转换完成后，利用所述目标硬件对所述待操作数据进行卷积运算。/n

【技术特征摘要】
1.一种基于硬件环境的数据操作方法，其特征在于，包括：
确定待操作数据及目标硬件；其中，所述目标硬件为当前需要对所述待操作数据进行卷积运算的硬件资源；
确定所述目标硬件能够执行并行计算的最大通道数量，并确定与该最大通道数量对应的数据布局为最优数据布局；
将所述待操作数据的数据布局转换为所述最优数据布局，并在转换完成后，利用所述目标硬件对所述待操作数据进行卷积运算。


2.根据权利要求1所述的方法，其特征在于，利用所述目标硬件对所述待操作数据进行卷积运算，包括：
获取多个核参数，并依次利用所述目标硬件对所述待操作数据及每个所述核参数进行卷积运算；
所述方法还包括：
在利用所述目标硬件对除第一个所述核参数外的其他核参数与所述待操作进行卷积运算的同时，对上一个进行卷积运算的所述核参数对应卷积运算的结果进行通道不相关的预设运算。


3.根据权利要求2所述的方法，其特征在于，对所述待操作数据依次进行与任意核参数的卷积运算及所述预设运算，包括：
按照预设运算符依次对所述待操作数据进行与任意核参数的卷积运算及所述预设运算，并将进行所述预设运算后所得结果保存；其中，所述预设运算符为对所述卷积运算的运算符及所述预设运算的运算符融合所得。


4.根据权利要求3所述的方法，其特征在于，在对所述待操作数据进行所述卷积运算及所述预设运算之前，还包括：
预测在对所述待操作数据进行操作的过程中需要存储的张量数据及常量数据分别所需存储空间，并为所述待操作数据分配相应存储空间的内存，以供实现相应的数据存储；其中，所述操作包括卷积运算及预设运算。


5.根据权利要求4...

【专利技术属性】
技术研发人员：曹其春，董刚，梁玲燕，尹文枫，赵健，
申请(专利权)人：苏州浪潮智能科技有限公司，
类型：发明
国别省市：江苏;32