一种基于泰勒展开的图像分类网络层剪枝方法技术

本发明专利技术涉及一种基于泰勒展开的图像分类网络层剪枝方法，属于图像处理与识别技术领域。对BN层的缩放因子和偏置因子同时进行分析，基于泰勒展开方法鉴别对网络损失函数影响较小的网络层并进行剔除，从而达到网络层剪枝的目的。将其应用于图像分类任务，能够在保证分类准确率的前提下达到较高的压缩率，同时提高模型的运算速度，便于其在手机等终端移动设备中的应用。备中的应用。备中的应用。

【技术实现步骤摘要】
一种基于泰勒展开的图像分类网络层剪枝方法


[0001]本专利技术属于图像处理与识别
，尤其涉及一种基于泰勒展开的图像分类网络层剪枝方法。

技术介绍

[0002]深度卷积神经网络在机器视觉领域取得了巨大成功，达到了超越人类水平的识别能力。得益于庞大的训练数据集和网络规模，神经网络模型通过复杂的运算能够提取到表征目标图像的鲁棒特征，进而用于分类识别。然而，伴随着识别准确率的提升，网络模型的运算量和计算量也在向不断增加的方向发展，需要占用巨大的存储空间和计算资源，对于计算设备的要求也越来越高，运算的实时性难以得到保证，由此限制了其在手机、汽车、卫星等终端设备中的应用，。
[0003]参数剪枝是一种有效的模型压缩方法，通过剔除网络中冗余或不重要的参数达到网络瘦身的效果。张建明，王伟，陆朝铨，等(《基于压缩卷积神经网络的交通标志分类算法》，华中科技大学学报(自然科学版)，2019，47(01)：108
‑
113)提出了一种基于泰勒展开的通道剪枝方法，依据泰勒展开式求得将特征图通道去除时所引起的损失函数变化量，来确定对网络性本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于泰勒展开的图像分类网络层剪枝方法，其特征在于步骤如下：步骤1：将预训练模型在训练集上进行一次迭代训练，通过误差反向传播获取网络中各参数的梯度信息；步骤2：根据下式计算网络中每个BasicBlock的重要性p
l
：：式中，代表了第l个BasicBlock中第j个BN层的重要性，和分别是将γ
i
和β
i
置为0时引起的变化量，和分别是γ
i
和β
i
关于的梯度，l∈(1,2,
…
,L)，L为网络中BasicBlock的总个数；和分别是BN层中可训练的缩放因子和偏置；将同一分辨率阶段内的p
l
归一化至[0,1]，即：式中，P
l
为归一化后BasicBlock的重要性，p
max
和p
min
分别是该阶段中p
l
的最大值和最小值；对于具有...

【专利技术属性】
技术研发人员：张科，刘广哲，苏雨，谭明虎，
申请(专利权)人：西北工业大学，
类型：发明
国别省市：