一种业务执行方法、装置、存储介质及电子设备制造方法及图纸

本说明书提供了一种业务执行方法、装置、存储介质及电子设备。在本说明书提供的业务执行方法中，响应于业务的执行请求，获取用于执行业务的目标模型，并确定目标模型中的目标网络层；根据目标网络层中用于执行矩阵乘法的特征矩阵的维度，确定目标网络层的候选计算方式，其中，不同候选计算方式对应的执行矩阵乘法运算时的循环次序不同；针对每个候选计算方式，根据特征矩阵的大小，确定目标网络层在该候选计算方式下执行矩阵乘法时，读取数据的总缓存复用率；根据各总缓存复用率，在各候选计算方式中确定目标计算方式；将目标计算方式更新为目标网络层的计算方式，并采用更新后的目标模型执行业务。标模型执行业务。标模型执行业务。

【技术实现步骤摘要】
一种业务执行方法、装置、存储介质及电子设备


[0001]本说明书涉及计算机
，尤其涉及一种业务执行方法、装置、存储介质及电子设备。

技术介绍

[0002]如今，神经网络模型被应用于各种业务的执行过程中。在神经网络模型的各网络层中,存在着大量的卷积计算过程。通常情况下，神经网络模型中的卷积运算是通过矩阵乘法的方式来实现的。
[0003]然而目前，对于许多神经网络模型来说，在实现矩阵乘法的计算时速度较慢，导致神经网络模型的整体运行效率较低，进而使业务的执行过程变得缓慢，给执行业务的用户带去较差的体验。
[0004]为解决上述问题，本说明书提供一种能够提高执行业务所需要的神经网络模型中卷积运算速度的业务执行方法。

技术实现思路

[0005]本说明书提供一种业务执行方法、装置、存储介质及电子设备，以至少部分地解决现有技术存在的上述问题。
[0006]本说明书采用下述技术方案：
[0007]本说明书提供了一种业务执行方法，包括：
[0008]响应于业务的执行请求，获取用于执行所述业务的目标模型本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种业务执行方法，其特征在于，包括：响应于业务的执行请求，获取用于执行所述业务的目标模型，并确定所述目标模型中的目标网络层；根据所述目标网络层中用于执行矩阵乘法的特征矩阵的维度，确定所述目标网络层的候选计算方式，其中，不同候选计算方式对应的执行矩阵乘法运算时的循环次序不同；针对每个候选计算方式，根据所述特征矩阵的大小，确定所述目标网络层在该候选计算方式下执行矩阵乘法时，读取数据的总缓存复用率；根据各总缓存复用率，在各候选计算方式中确定目标计算方式；将所述目标计算方式更新为所述目标网络层的计算方式，并采用更新后的目标模型执行所述业务。2.如权利要求1所述的方法，其特征在于，根据所述目标网络层中用于执行矩阵乘法的特征矩阵的维度，确定所述目标网络层的候选计算方式，具体包括：根据所述目标网络层中用于执行矩阵乘法的特征矩阵的维度，确定所述目标网络层在执行矩阵乘法时的循环层数；根据所述循环层数，确定所述目标网络层的候选计算方式。3.如权利要求1所述的方法，其特征在于，针对每个候选计算方式，根据所述特征矩阵的大小，确定所述目标网络层在该候选计算方式下执行矩阵乘法时，读取数据的总缓存复用率，具体包括：针对每个候选计算方式，确定所述目标网络层在该候选计算方式下执行矩阵乘法时的循环次序；根据所述循环次序以及所述特征矩阵的大小，确定所述目标网络层在该候选计算方式下执行矩阵乘法时，读取数据的总缓存复用率。4.如权利要求3所述的方法，其特征在于，根据所述循环次序以及所述特征矩阵的大小，确定所述目标网络层在该候选计算方式下执行矩阵乘法时，读取数据的总缓存复用率，具体包括：根据所述循环次序以及所述特征矩阵的大小，确定所述特征矩阵在每层循环下的缓存复用率；根据所述特征矩阵在每层循环下的缓存复用率，确定所述特征矩阵的总缓存复用率，作为所述目标网络层在该候选计算方式下执行矩阵乘法时，读取数据的总缓存复用率。5.如权利要求4所述的方法，其特征在于，根据所述循环次序以及所述特征矩阵的大小，确定所述特征矩阵在每层循环下的缓存复用率，具体包括：根据所述循环次序，确定所述目标网络层在...

【专利技术属性】
技术研发人员：王宏升，陈光，林峰，
申请(专利权)人：之江实验室，
类型：发明
国别省市：