基于剪枝和轻量卷积的车辆再辨识模型压缩方法及系统技术方案

本发明专利技术实例公开了一种基于剪枝和轻量卷积的车辆再辨识模型压缩方法及系统，对待压缩的车辆再辨识模型的骨干网络进行预训练，对预训练完毕的骨干网络进行剪枝，并通过重训练恢复精度，对车辆再辨识模型中特征金字塔模块进行轻量化卷积设计，将紧凑的骨干网络与轻量化的特征金字塔模块结合，骨干网络提取特征后，特征金字塔模块进行特征融合，得到基于特征金字塔联合表示的轻量化车辆再辨识模型。本发明专利技术以复杂高性能的车辆再辨识模型作为输入模型，其骨干网络中重要性较低的卷积核被自动选择和剪枝，并改进其特征金字塔模块中的卷积方式，有效降低参数量和计算量，产生精度相当但较为紧凑的模型。较为紧凑的模型。较为紧凑的模型。

【技术实现步骤摘要】
基于剪枝和轻量卷积的车辆再辨识模型压缩方法及系统


[0001]本专利技术实施例涉及机器学习
，具体涉及一种基于剪枝和轻量卷积的车辆再辨识模型压缩方法及系统。

技术介绍

[0002]近年来，随着图形处理器(GPU)性能的飞速提升，深度神经网络(DNN)在强大的计算资源支持下也取得了巨大的发展成就，在许多视觉识别任务中屡创佳绩。然而，由于主流的深度学习网络模型存在计算复杂度高，内存占用较大，耗时长等缺陷，难以部署在计算资源受限的移动设备或时延要求严格的应用程序中，如真实场景下的车辆再辨识任务。模型压缩是指在不显著影响模型精度的前提下，通过对深度神经网络进行剪枝等轻量化操作，得到一个更加紧凑的网络，有效减少原模型的参数量和计算量，提升推理速度，降低内存开销，提高模型在实际场景下的适用性。

技术实现思路

[0003]为此，本专利技术实施例提供一种基于剪枝和轻量卷积的车辆再辨识模型压缩方法及系统，以解决现有车辆再辨识模型计算复杂度高，内存占用较大，耗时长的问题。
[0004]为了实现上述目的，本专利技术实施例提供如下技术方案：
[0005]一方面，一种基于剪枝和轻量卷积的车辆再辨识模型压缩方法，包括：
[0006]S11，对待压缩的车辆再辨识模型的骨干网络进行预训练；
[0007]S12，对预训练完毕的骨干网络进行剪枝，并通过重训练恢复精度；
[0008]S13，对车辆再辨识模型中的特征金字塔模块进行轻量化卷积设计；
[0009]S14，将紧凑的骨干网络与轻量化的特征金字塔模块结合，骨干网络提取特征后，特征金字塔模块进行特征融合，得到基于特征金字塔联合表示的轻量化车辆再辨识模型。
[0010]优选的，在步骤S11中，待压缩的车辆再辨识模型的骨干网络包括特征提取部分和全连接层，所述特征提取部分由多个卷积层组成，每个卷积层中包含多个卷积核，每个卷积核之间的重要性程度不同。
[0011]优选的，采用的待压缩的车辆再辨识骨干网络模型为ResNet
‑
50，其中提取部分的网络结构为[64,'M',(64,64,256)
×
3,(128,128,512)
×
4,(256,256,1024)
×
6,(512,512,2048)
×
3]，其中每个数字代表卷积+BN+ReLU三层结构，数字大小代表卷积层通道数量，'M'代表最大池化，
×
N代表相同卷积块重复次数；经过49个卷积层提取特征之后，紧跟着是一个K个神经元的全连接层，用于最终的分类；K的大小根据数据集中类别个数来确定。
[0012]优选的，在步骤S12中，对训练好的骨干网络进行剪枝，具体包括：
[0013]计算骨干网络中所有卷积核的范数，逐层计算该层卷积核数据空间中的几何中值，寻找与几何中值之间欧氏距离最小的卷积核集合；骨干网络训练到预设准确率后，基于要剪枝的比例计算距离阈值，然后将与几何中值之间距离小于该阈值的卷积核剪掉，最后对剪枝后的骨干网络进行重训练；计算几何中值的公式如下：
[0014][0015]其中，x
GM
表示几何中值，F
i,j'
表示第i层的第j'个卷积核,N
i+1
表示第i层的输出通道数，即该层卷积核数量。
[0016]优选的，在步骤S13中，对车辆再辨识模型中特征金字塔模块进行轻量化卷积设计，具体包括：
[0017]骨干网络自底向上提取特征后，自顶向下对其进行重构，并对得到的金字塔特征进行压缩，具体为将特征金字塔模块中的标准卷积替换为深度可分离卷积，即先后采用深度卷积与逐点卷积，减少卷积运算量，使模块轻量化。
[0018]优选的，所述步骤S14，具体包括：
[0019]将紧凑的骨干网络作为车辆再辨识模型的基础网络，用于提取车辆图像的特征；根据骨干网络的结构，四个不同的卷积块分别生成四种不同分辨率的特征块；
[0020]将不同分辨率的特征块输入特征金字塔模块，对各级特征块通过卷积操作进行降维，得到分辨率不同维数相同的特征块，对这些特征块通过上采样操作进行重建，得到四个重建的特征块；通过金字塔结构，将重建特征块与原特征块进行拼接融合，得到联合特征；
[0021]将紧凑的骨干网络与轻量化的特征金字塔模块结合得到的车辆再辨识模型，训练直至收敛，得到基于特征金字塔联合表示的轻量化车辆再辨识模型。
[0022]另一方面，一种基于剪枝和轻量卷积的车辆再辨识模型压缩系统，包括：
[0023]预训练模块，用于对待压缩的车辆再辨识模型的骨干网络进行训练；
[0024]剪枝模块，用于对预训练完毕的骨干网络进行剪枝；
[0025]轻量化模块，用于对特征金字塔模块进行轻量化设计；
[0026]融合模块，用于将紧凑的骨干网络与轻量化的特征金字塔模块结合，得到压缩后的车辆再辨识模型。
[0027]再一方面，一种计算机可读存储介质，其上存储有程序指令，所述程序指令被处理器执行时实现所述的基于剪枝和轻量卷积的车辆再辨识模型压缩方法的步骤。
[0028]本专利技术实施例具有以下优点：
[0029]本专利技术实施例提供基于剪枝和轻量卷积的车辆再辨识模型压缩方法及系统，对待压缩的车辆再辨识模型的骨干网络进行训练，对预训练完毕的骨干网络进行剪枝，对车辆再辨识模型中特征金字塔模块进行轻量化卷积设计，将紧凑的骨干网络与轻量化的特征金字塔模块结合，得到压缩后的车辆再辨识模型。以复杂的车辆再辨识模型作为输入模型，其骨干网络中重要性较低的卷积核被自动选择和剪枝，并改进其特征金字塔模块中的卷积方式，有效降低参数量和计算量，产生精度相当但极为紧凑的模型。
附图说明
[0030]为了更清楚地说明本专利技术的实施方式或现有技术中的技术方案，下面将对实施方式或现有技术描述中所需要使用的附图作简单地介绍。显而易见地，下面描述中的附图仅仅是示例性的，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图引伸获得其它的实施附图。
[0031]图1为本专利技术实施例提供的基于剪枝和轻量卷积的车辆再辨识模型压缩方法的流
程示意图；
[0032]图2为本专利技术实施例提供的网络剪枝和轻量卷积的车辆再辨识模型压缩方法中深度可分离卷积示意图；
[0033]图3为本专利技术实施例提供的网络剪枝和轻量卷积的车辆再辨识模型压缩方法中剪枝方法示意图；
[0034]图4为本专利技术实施例提供的网络剪枝和轻量卷积的车辆再辨识模型压缩系统的结构示意图。
具体实施方式
[0035]以下由特定的具体实施例说明本专利技术的实施方式，熟悉此技术的人士可由本说明书所揭露的内容轻易地了解本专利技术的其他优点及功效，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于剪枝和轻量卷积的车辆再辨识模型压缩方法，其特征在于，包括：S11，对待压缩的车辆再辨识模型的骨干网络进行预训练；S12，对预训练完毕的骨干网络进行剪枝，并通过重训练恢复精度；S13，对车辆再辨识模型中的特征金字塔模块进行轻量化卷积设计；S14，将紧凑的骨干网络与轻量化的特征金字塔模块结合，骨干网络提取特征后，特征金字塔模块进行特征融合，得到基于特征金字塔联合表示的轻量化车辆再辨识模型。2.根据权利要求1所述的基于剪枝和轻量卷积的车辆再辨识模型压缩方法，其特征在于，在步骤S11中，待压缩的车辆再辨识模型的骨干网络包括特征提取部分和全连接层，所述特征提取部分由多个卷积层组成，每个卷积层中包含多个卷积核，每个卷积核之间的重要性程度不同。3.根据权利要求2所述的基于剪枝和轻量卷积的车辆再辨识模型压缩方法，其特征在于，采用的待压缩的车辆再辨识骨干网络模型为ResNet
‑
50，其中提取部分的网络结构为[64,'M',(64,64,256)
×
3,(128,128,512)
×
4,(256,256,1024)
×
6,(512,512,2048)
×
3]，其中每个数字代表卷积+BN+ReLU三层结构，数字大小代表卷积层通道数量，'M'代表最大池化，
×
N代表相同卷积块重复次数；经过49个卷积层提取特征之后，紧跟着是一个K个神经元的全连接层，用于最终的分类；K的大小根据数据集中类别个数来确定。4.根据权利要求1所述的基于剪枝和轻量卷积的车辆再辨识模型压缩方法，其特征在于，在步骤S12中，对训练好的骨干网络进行剪枝，具体包括：计算骨干网络中所有卷积核的范数，逐层计算该层卷积核数据空间中的几何中值，寻找与几何中值之间欧氏距离最小的卷积核集合；骨干网络训练到预设准确率后，基于要剪枝的比例计算距离阈值，然后将与几何中值之间距离小于该阈值...

【专利技术属性】
技术研发人员：曾焕强，胡浩麟，陈婧，朱建清，冯万健，王志亮，
申请(专利权)人：厦门亿联网络技术股份有限公司星宸科技股份有限公司，
类型：发明
国别省市：