基于通道数量搜索的卷积神经网络压缩方法技术

本发明专利技术提出了一种基于通道数量搜索的卷积神经网络压缩方法，其步骤为：首先，选择用于图像识别的目标图像数据集，并划分为训练集与测试集；其次，将训练集输入卷积神经网络中进行训练，输出卷积神经网络对应的每一个通道的重要性指标；然后将重要性指标值与设定的阈值进行对比，将低于阈值的重要性指标对应的通道舍弃，得到改进的卷积神经网络；最后，利用深度卷积层替换掉改进的卷积神经网络的卷积层，得到轻量级的网络模型，并将测试集输入轻量级的网络模型验证轻量级的网络模型的识别性能。本发明专利技术将通道数量的搜索与改善网络卷积方式相结合来构建轻量级卷积神经网络模型，极大减少了网络模型的参数，提高了模型的运算速度。

【技术实现步骤摘要】
基于通道数量搜索的卷积神经网络压缩方法
本专利技术涉及图像处理
，特别是指一种基于通道数量搜索的卷积神经网络压缩方法。
技术介绍
卷积神经网络在计算机视觉领域已经表现出巨大的优势，然而，由于深度卷积神经网络的高存储与高消耗的弊端，使其难以部署到边缘计算设备上，比如自动化的机器人、无人机、智能手机等。为了解决这个问题，大量关于卷积神经网络压缩的研究已经开展。比较常见的技术主要有参数量化，知识蒸馏，低秩分解与剪枝等。在上述方法中，剪枝被认为是最有效压缩网络模型的工具之一，其通过舍弃不重要的权重或者整个滤波器以达到使计算复杂度下降的目的。如果运行在专门定制的软件或者硬件平台上，权重剪枝的办法可以达到压缩与加速的效果。相反，滤波器剪枝可以运行在一般的硬件平台或BLAS库上，因为它将整个滤波器移除了。尽管如此，滤波器剪枝需要判定滤波器重要性、剪枝、微调等复杂的流程。更为重要的是，其需要人为启发式的判定滤波器的重要性，这通常来讲是很困难的。最近有文献[LiuZ,SunM,ZhouT,etal.Rethinkingthevalueofnetwo本文档来自技高网...

【技术保护点】
1.一种基于通道数量搜索的卷积神经网络压缩方法，其特征在于，其步骤如下：/nS1、将目标图像数据集cifar10作为原始数据集，并将原始数据集划分为训练集和测试集；/nS2、将训练集输入卷积神经网络中进行训练，输出卷积神经网络对应的每一个通道的重要性指标；/nS3、将步骤S2中的重要性指标值与设定的阈值进行对比，将低于阈值的重要性指标对应的通道舍弃，得到改进的卷积神经网络；/nS4、将步骤S3中保留的通道作为深度卷积层的输入或输出，然后仅考虑输入特征图的空间信息来构建深度卷积层，利用深度卷积层替换改进的卷积神经网络中的卷积层得到轻量级卷积网络模型，将测试集输入轻量级卷积网络模型中，测试轻量级卷...

【技术特征摘要】
1.一种基于通道数量搜索的卷积神经网络压缩方法，其特征在于，其步骤如下：
S1、将目标图像数据集cifar10作为原始数据集，并将原始数据集划分为训练集和测试集；
S2、将训练集输入卷积神经网络中进行训练，输出卷积神经网络对应的每一个通道的重要性指标；
S3、将步骤S2中的重要性指标值与设定的阈值进行对比，将低于阈值的重要性指标对应的通道舍弃，得到改进的卷积神经网络；
S4、将步骤S3中保留的通道作为深度卷积层的输入或输出，然后仅考虑输入特征图的空间信息来构建深度卷积层，利用深度卷积层替换改进的卷积神经网络中的卷积层得到轻量级卷积网络模型，将测试集输入轻量级卷积网络模型中，测试轻量级卷积网络模型的识别能力。


2.根据权利要求1所述的基于通道数量搜索的卷积神经网络压缩方法，其特征在于，所述训练集的数量最少为50000张图像，测试集的数量最少为10000张图像。


3.根据权利要求1所述的基于通道数量搜索的卷积神经网络压缩方法，其特征在于，所述将训练集输入卷积神经网络中进行训练，输出卷积神经网络对应的每一个通道的重要性指标的方法为：
S21、设置卷积神经网络...

【专利技术属性】
技术研发人员：刘洲峰，张弘，刘小辉，李春雷，赵亚茹，
申请(专利权)人：中原工学院，
类型：发明
国别省市：河南;41