本申请涉及一种模型的通道剪枝方法、装置、计算机设备、存储介质和计算机程序产品。所述方法包括：获取校准样本集，所述校准样本集中包括多张校准图像；将各所述校准图像输入至待校准的初始神经网络模型中，获得各所述校准图像在所述初始神经网络模型的每个网络层的输入通道特征图；确定各所述输入通道特征图的秩，并对各所述输入通道特征图的秩进行处理，确定出每个所述网络层的通道索引的排序；基于每个所述网络层的通道索引的排序，对所述初始神经网络模型进行通道剪枝处理，获得目标神经网络模型。采用本方法能够提高通道剪枝效率。网络模型。采用本方法能够提高通道剪枝效率。网络模型。采用本方法能够提高通道剪枝效率。
【技术实现步骤摘要】
模型的通道剪枝方法、装置、计算机设备和存储介质
[0001]本申请涉及计算机
，特别是涉及一种模型的通道剪枝方法、装置、计算机设备、存储介质和计算机程序产品。
技术介绍
[0002]为了提升计算机视觉任务性能，神经网络不断地加深加重，模型愈来愈庞大，不仅占用存储空间，还增加计算量。因此，业界出现了各式模型压缩技术，如模型量化，剪枝，权重共享等，用以减小模型计算量，缩小模型体积，提升推理速度。
[0003]通道剪枝旨在剔除冗余的、对结果没有什么影响的通道，使得模型更加高效、紧凑，通道剪枝的关键在于确定哪些通道可以裁剪掉，传统的剪枝方法一般是采用比例因子作为通道重要程度的度量，以此来确定删除哪些通道。此种方式需要训练数据，以获得权重的重要性信息，严重受到数据的约束，导致裁剪效率较低。
技术实现思路
[0004]基于此，有必要针对上述技术问题，提供一种能够提高通道剪枝效率的模型的通道剪枝方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
[0005]第一方面，本申请提供了一种模型的通道剪枝方法，所述方法包括：
[0006]获取校准样本集，所述校准样本集中包括多张校准图像；
[0007]将各所述校准图像输入至待校准的初始神经网络模型中，获得各所述校准图像在所述初始神经网络模型的每个网络层的输入通道特征图；
[0008]确定各所述输入通道特征图的秩，并对各所述输入通道特征图的秩进行处理，确定出每个所述网络层的通道索引的排序；
[0009]基于每个所述网络层的通道索引的排序，对所述初始神经网络模型进行通道剪枝处理，获得目标神经网络模型。
[0010]在其中一个实施例中，每个网络层均包括多个输入通道；
[0011]所述将各所述校准图像输入至待校准的初始神经网络模型中，获得各所述校准图像在所述初始神经网络模型的每个网络层的输入通道特征图，包括：
[0012]将各所述校准图像输入至待校准的初始神经网络模型中，获得每一张校准图像在所述初始神经网络模型的每个网络层的各输入通道所输出的输入通道特征图。
[0013]在其中一个实施例中，每个网络层均包括多个输入通道；每一张校准图像在所述初始神经网络模型的各网络层的各输入通道均对应有输入通道特征图；
[0014]所述确定各所述输入通道特征图的秩，并对各所述输入通道特征图的秩进行处理，确定出每个所述网络层的通道索引的排序，包括：
[0015]针对任意一个网络层，均采用以下步骤得到通道索引的排序：
[0016]对每一个输入通道输出的输入通道特征图进行初等变换处理，确定各所述输入通道特征图的秩；
[0017]分别对同一输入通道的秩进行平均处理，获得各输入通道分别对应的平均秩；
[0018]对各所述平均秩进行排序处理，并根据排序结果确定出所述网络层的通道索引的排序。
[0019]在其中一个实施例中，所述基于每个所述网络层的通道索引的排序，对所述初始神经网络模型进行通道剪枝处理，获得目标神经网络模型，包括：
[0020]基于各所述网络层的结构信息，确定出通道剪枝顺序；
[0021]基于所述通道剪枝顺序，依次基于每个所述网络层的通道索引的排序对所述神经网络模型进行通道剪枝处理，获得目标神经网络模型。
[0022]在其中一个实施例中，所述基于每个所述网络层的通道索引的排序，对所述初始神经网络模型进行通道剪枝处理，获得目标神经网络模型，包括：
[0023]基于各所述网络层的通道索引的排序，对所述初始神经网络模型的各个网络层依次进行通道剪枝处理；
[0024]在所有网络层均完成通道剪枝处理后，获得目标神经网络模型。
[0025]在其中一个实施例中，针对所述初始神经网络模型中任意一个网络层，所针对的网络层的通道剪枝处理步骤包括：
[0026]根据所针对的网络层的通道索引的排序，确定当前待处理的通道索引；
[0027]对所述待处理的通道索引对应的输入通道以及卷积核权重进行裁剪，获得中间神经网络模型；
[0028]加载所述中间神经网络模型，确定由所述中间神经网络模型的输出通道输出的重构特征图；
[0029]基于所述初始神经网络模型的原始输出特征图与所述重构特征图，进行重构误差计算，获得误差计算结果；
[0030]若所述误差计算结果不满足预设误差条件，则根据所针对的网络层的通道索引的排序，确定下一次的待处理的通道索引，并返回所述对所述待处理的通道索引对应的输入通道以及卷积核权重进行裁剪的步骤继续执行，直至在任一次的误差计算结果满足预设误差条件时停止，完成所述网络层的通道剪枝处理。
[0031]在其中一个实施例中，所述在所有网络层均完成通道剪枝处理后，获得目标神经网络模型，包括：
[0032]在所有网络层均完成通道剪枝处理后，获得重构神经网络模型，并对所述重构神经网络模型进行训练，获得目标神经网络模型。
[0033]第二方面，本申请还提供了一种模型的通道剪枝装置，所述装置包括：
[0034]数据获取模块，用于获取校准样本集，所述校准样本集中包括多张校准图像；
[0035]特征图获取模块，用于将各所述校准图像输入至待校准的初始神经网络模型中，获得各所述校准图像在所述初始神经网络模型的每个网络层的输入通道特征图；
[0036]处理模块，用于确定各所述输入通道特征图的秩，并对各所述输入通道特征图的秩进行处理，确定出每个所述网络层的通道索引的排序；
[0037]剪枝模块，用于基于每个所述网络层的通道索引的排序，对所述初始神经网络模型进行通道剪枝处理，获得目标神经网络模型。
[0038]第三方面，本申请还提供了一种计算机设备。所述计算机设备包括存储器和处理
器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现上述模型的通道剪枝的步骤。
[0039]第四方面，本申请还提供了一种计算机可读存储介质。所述计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述模型的通道剪枝的步骤。
[0040]第五方面，本申请还提供了一种计算机程序产品。所述计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述模型的通道剪枝的步骤。
[0041]上述模型的通道剪枝方法、装置、计算机设备、存储介质和计算机程序产品，获取校准样本集，校准样本集中包括多张校准图像；将各校准图像输入至待校准的初始神经网络模型中，获得各校准图像在初始神经网络模型的每个网络层的输入通道特征图；确定各输入通道特征图的秩，并对各输入通道特征图的秩进行处理，确定出每个所述网络层的通道索引的排序；基于每个网络层的通道索引的排序，对初始神经网络模型进行通道剪枝处理，获得目标神经网络模型。其中，通过将输入通道特征图的秩作为剪枝依据，确定出每个网络层的通道索引的排序，再根据通道索引的排序对初始神经网络模型进行通道剪枝处理，由于无需进行反向传播，本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种模型的通道剪枝方法，其特征在于，所述方法包括：获取校准样本集，所述校准样本集中包括多张校准图像；将各所述校准图像输入至待校准的初始神经网络模型中，获得各所述校准图像在所述初始神经网络模型的每个网络层的输入通道特征图；确定各所述输入通道特征图的秩，并对各所述输入通道特征图的秩进行处理，确定出每个所述网络层的通道索引的排序；基于每个所述网络层的通道索引的排序，对所述初始神经网络模型进行通道剪枝处理，获得目标神经网络模型。2.根据权利要求1所述的方法，其特征在于，每个网络层均包括多个输入通道；所述将各所述校准图像输入至待校准的初始神经网络模型中，获得各所述校准图像在所述初始神经网络模型的每个网络层的输入通道特征图，包括：将各所述校准图像输入至待校准的初始神经网络模型中，获得每一张校准图像在所述初始神经网络模型的每个网络层的各输入通道所输出的输入通道特征图。3.根据权利要求1所述的方法，其特征在于，每个网络层均包括多个输入通道；每一张校准图像在所述初始神经网络模型的各网络层的各输入通道均对应有输入通道特征图；所述确定各所述输入通道特征图的秩，并对各所述输入通道特征图的秩进行处理，确定出每个所述网络层的通道索引的排序，包括：针对任意一个网络层，均采用以下步骤得到通道索引的排序：对每一个输入通道输出的输入通道特征图进行初等变换处理，确定各所述输入通道特征图的秩；分别对同一输入通道的秩进行平均处理，获得各输入通道分别对应的平均秩；对各所述平均秩进行排序处理，并根据排序结果确定出所述网络层的通道索引的排序。4.根据权利要求1所述的方法，其特征在于，所述基于每个所述网络层的通道索引的排序，对所述初始神经网络模型进行通道剪枝处理，获得目标神经网络模型，包括：基于各所述网络层的结构信息，确定出通道剪枝顺序；基于所述通道剪枝顺序，依次基于每个所述网络层的通道索引的排序对所述神经网络模型进行通道剪枝处理，获得目标神经网络模型。5.根据权利要求1所述的方法，其特征在于，所述基于每个所述网络层的通道索引的排序，对所述初始神经网络模型进行通道剪枝处理，获得目标神经网络模型，包括：基于各所述网络层的通道索引的排序，对所述初始神经网...
【专利技术属性】
技术研发人员：潘建红，武小龙，
申请(专利权)人：格兰菲智能科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。