神经网络模型的编译方法、装置、存储介质及电子设备制造方法及图纸

技术编号:36793721 阅读:21 留言:0更新日期:2023-03-08 22:52
公开了一种神经网络模型的编译方法、装置、存储介质及电子设备。该方法包括:获取待编译神经网络模型;基于待编译神经网络模型中的第一池化层采用的池化方式信息,将第一池化层的输入特征图的池化运算变换为转置特征图的目标运算,得到第二池化层,转置特征图通过对输入特征图进行维度转置运算获得,目标运算为神经网络加速器支持的运算;基于待编译神经网络模型中除第一池化层之外的网络层,以及第二池化层,通过编译处理生成目标神经网络模型。本公开能够在神经网络加速器中未针对池化层设置专门的硬件的前提下,正常实现池化运算,有利于减小硬件开销,且保证包括池化层的神经网络模型的正常使用。网络模型的正常使用。网络模型的正常使用。

【技术实现步骤摘要】
神经网络模型的编译方法、装置、存储介质及电子设备


[0001]本公开涉及人工智能技术,尤其是一种神经网络模型的编译方法、装置、存储介质及电子设备。

技术介绍

[0002]一些情况下,神经网络模型中存在池化层,为了保证池化层的池化运算的正常实现,神经网络加速器中需要针对池化层设置专门的硬件,如果神经网络加速器中未针对池化层设置专门的硬件,池化层的池化运算无法正常实现,而针对池化层设置专门的硬件会增大硬件开销。

技术实现思路

[0003]为了解决上述技术问题,提出了本公开。本公开的实施例提供了一种神经网络模型的编译方法、装置、存储介质及电子设备。
[0004]根据本公开实施例的一个方面,提供了一种神经网络模型的编译方法,包括:
[0005]获取待编译神经网络模型;
[0006]基于所述待编译神经网络模型中的第一池化层采用的池化方式信息,将所述第一池化层的输入特征图的池化运算变换为转置特征图的目标运算,得到第二池化层,所述转置特征图通过对所述输入特征图进行维度转置运算获得,所述转置特征图的通道维度对应所述输入特本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络模型的编译方法,包括:获取待编译神经网络模型;基于所述待编译神经网络模型中的第一池化层采用的池化方式信息,将所述第一池化层的输入特征图的池化运算变换为转置特征图的目标运算,得到第二池化层,所述转置特征图通过对所述输入特征图进行维度转置运算获得,所述转置特征图的通道维度对应所述输入特征图的非通道维度,所述转置特征图的非通道维度对应所述输入特征图的通道维度,所述目标运算为神经网络加速器支持的运算;基于所述待编译神经网络模型中除所述第一池化层之外的网络层,以及所述第二池化层,通过编译处理生成目标神经网络模型。2.根据权利要求1所述的方法,其中,所述基于所述待编译神经网络模型中的第一池化层采用的池化方式信息,将所述第一池化层的输入特征图的池化运算变换为转置特征图的目标运算,包括:基于所述待编译神经网络模型中的第一池化层采用的池化方式信息,获取池化处理类型;按照与所述池化处理类型对应的变换方式,将所述第一池化层的输入特征图的池化运算变换为转置特征图的目标运算。3.根据权利要求2所述的方法,其中,所述输入特征图的高度、宽度、通道数依次为H1、W1、C1,所述转置特征图的高度、宽度、通道数依次为H2、W2、C2,H2*W2=C1,H1*W1=C2;所述按照与所述池化处理类型对应的变换方式,将所述第一池化层的输入特征图的池化运算变换为转置特征图的目标运算,包括:在所述池化处理类型为局部平均池化类型的情况下,基于所述池化方式信息,获取池化参数;基于所述池化参数、H1、W1,确定所述第一池化层的输出特征图的宽度W3和高度H3;基于所述池化参数、H3、W3、C2,所述输出特征图中的点与所述输入特征图中的点之间的对应关系,以及所述输入特征图中的点与所述转置特征图中的点之间的对应关系,构建第一卷积核集合;将所述输入特征图的池化运算变换为所述目标运算,所述目标运算包括:对所述转置特征图与所述第一卷积核集合进行卷积运算,得到第一特征图;对所述第一特征图进行维度转置运算,得到所述第二池化层的输出特征图。4.根据权利要求3所述的方法,其中,所述池化参数包括池化窗口宽度W4和池化窗口高度H4;所述第一卷积核集合包括H3*W3个卷积核,每个卷积核的宽度为1,高度为1,通道数为C2;在所述输出特征图中的任一个点为第一目标点,所述第一卷积核集合中与所述第一目标点对应的卷积核为第一目标卷积核,所述输入特征图中的第一点集合与所述第一目标点对应,所述转置特征图中的第二点集合与所述输入特征图中的第一点集合对应的情况下,所述第一目标卷积核中满足预设条件的元素位置的元素为1/(H4*W4),所述第一目标卷积核中的其余元素位置的元素均为0,任一元素位置满足所述预设条件是指:该元素位置在所述第一目标卷积核中的相对位置,与所述第二点集合中的一个点在所述转置特征图的通道方
向上的相对位置一致。5.根据权利要求2所述的方法,其中,所述输入特征图的高度、宽度、通道数依次为H1、W1、C1,所述转置特征图的高度、宽度、通道数依次为H2、W2、C2,H2*W2=C1,H1*W1=C2;所述按照与所述池化处理类型对应的变换方式,将所述第一池化层的输入特征图的池化运算变换为转置特征图的目标运算,包括:在所述池化处理类型为局部最大池化类型的情况下,基于所述池化方式信息,获取池化参数;基于所述池化参数、H1、W1,确定所述第一池化层的输出特征图的宽度W3和高度H3;基于所述池化参数、H3、W3,所述输出特征图中的点与所述输入特征图中的点之间的对应关系,以及所述输入特征图中的点与所述转置特征图中的点之间的对应关系,构建第二卷积核集合;将所述输入特征图的池化运算变换为所述目标运算,所述目标运算包括:对所述转置特征图与所述第二卷积核集合进行卷...

【专利技术属性】
技术研发人员:李建军黄畅
申请(专利权)人:北京地平线信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1