优化神经网络卷积残差结构的方法、系统、设备及介质技术方案

本发明专利技术公开了一种优化神经网络卷积残差结构的方法、系统、设备和存储介质，方法包括：从全局内存中获取每组残差结构的数据和输入，根据输入计算第一卷积以得到第一结果，并将第一结果存到共享内存；根据数据确定图片的大小，并根据大小将图片分成多个第一区域，在共享内存中给每个第一区域分配对应的块，并在块中根据第一区域和第一结果计算第二卷积以得到第二结果；根据数据确定第二图片的大小，并根据第二图片的大小将第二图片分成多个第二区域，将每个第二区域分配到对应的块，并在块中根据第二结果和第二区域计算第三卷积以得到输出；以及将输出与输入相加并进行线性整流以得到最终结果，并将最终结果写回全局内存。

【技术实现步骤摘要】
优化神经网络卷积残差结构的方法、系统、设备及介质
本专利技术涉及神经网络领域，更具体地，特别是指一种优化神经网络卷积残差结构的方法、系统、计算机设备及可读介质。
技术介绍
Resnet(ResidualNetwork)是由KaimingHe等人于2015年提出的具有残差结构的卷积神经网络，该模型通过引入残差单元解决了网络加深时的梯度消失问题，随着层次的加深，识别精度相应提高，当网络达到饱和时，采用全等映射的思想解决深层次网络退化的问题，具有较高的图像识别精度，目前Resnet50网络在图像识别领域具有较为广泛的应用。Resnet50是具有50层计算结构的神经网络卷积模型，在该模型中大部分计算都是卷积计算，当模型在GPU(graphicsprocessingunit，图形处理器)上运行时，每一层卷积都会调用一个CUDAKernel(ComputeUnifiedDeviceArchitectureKernel，统一计算设备架构内核)程序进行计算，在计算时Kernel会将data(数据)以及weight(权重)的数据由全局读入Kernel，然本文档来自技高网...

【技术保护点】
1.一种优化神经网络卷积残差结构的方法，其特征在于，包括以下步骤：/n从全局内存中获取每组残差结构的数据和输入，根据所述输入计算第一卷积以得到第一结果，并将所述第一结果存到共享内存；/n根据所述数据确定图片的大小，并根据所述大小将所述图片分成多个第一区域，在所述共享内存中给每个所述第一区域分配对应的块，并在所述块中根据所述第一区域和所述第一结果计算第二卷积以得到第二结果；/n根据所述数据确定第二图片的大小，并根据所述第二图片的大小将所述第二图片分成多个第二区域，将每个所述第二区域分配到对应的所述块，并在所述块中根据所述第二结果和所述第二区域计算第三卷积以得到输出；以及/n将所述输出与所述输入相...

【技术特征摘要】
1.一种优化神经网络卷积残差结构的方法，其特征在于，包括以下步骤：
从全局内存中获取每组残差结构的数据和输入，根据所述输入计算第一卷积以得到第一结果，并将所述第一结果存到共享内存；
根据所述数据确定图片的大小，并根据所述大小将所述图片分成多个第一区域，在所述共享内存中给每个所述第一区域分配对应的块，并在所述块中根据所述第一区域和所述第一结果计算第二卷积以得到第二结果；
根据所述数据确定第二图片的大小，并根据所述第二图片的大小将所述第二图片分成多个第二区域，将每个所述第二区域分配到对应的所述块，并在所述块中根据所述第二结果和所述第二区域计算第三卷积以得到输出；以及
将所述输出与所述输入相加并进行线性整流以得到最终结果，并将所述最终结果写回全局内存。


2.根据权利要求1所述的方法，其特征在于，所述在所述块中根据所述第一区域和所述第一结果计算第二卷积以得到第二结果包括：
将所述第一区域扩充为第三区域，在所述第三区域中进行多次滑窗运算。


3.根据权利要求2所述的方法，其特征在于，所述在所述块中根据所述第一区域和所述第一结果计算第二卷积以得到第二结果包括：
每次运算取第四区域进行卷积运算，并将每次运算的结果累加到相同的区域，所述第四区域小于所述第一区域。


4.根据权利要求1所述的方法，其特征在于，方法还包括：
设置所述块中的矩阵乘形状，通过所述矩阵乘形状与mma矩阵乘形状进行比较以得到mma运算的次数；以及
获取所述块中的线程数，并根据所述线程数对所述mma运算的次数进行分配。


5.一种优化神经网络卷积残差结构的系统，其特征在于，包括：
第一卷积模块，配置用于从全局内存中获取每组残差结构的数据和输入，根据所述输入计算第一卷积以得到第一结果，并将所述第一结...

【专利技术属性】
技术研发人员：王申领，
申请(专利权)人：苏州浪潮智能科技有限公司，
类型：发明
国别省市：江苏;32