一种卷积神经网络模型的剪枝方法、装置、设备和介质制造方法及图纸

本申请公开了一种卷积神经网络模型的剪枝方法、装置、设备和介质，用于提高剪枝效率。本申请剪枝方法包括：获取输入特征图像和卷积神经网络模型；将输入特征图像输入卷积神经网络模型的特征提取模块；通过特征提取模块中的N个卷积核对原始图像进行图像特征处理，将N个卷积核对应的N个特征通道进行通道融合，生成输出特征图；将输出特征图输入卷积神经网络模型的注意力生成模块；通过注意力生成模块分析输出特征图，分别为N个特征通道生成N个注意力向量；根据N个注意力向量分别计算N个特征通道的注意力值；根据N个特征通道的注意力值对特征提取模块中的N个卷积核做剪枝处理。征提取模块中的N个卷积核做剪枝处理。征提取模块中的N个卷积核做剪枝处理。

【技术实现步骤摘要】
一种卷积神经网络模型的剪枝方法、装置、设备和介质


[0001]本申请实施例涉及卷积神经网络模型领域，尤其涉及一种卷积神经网络模型的剪枝方法、装置、设备和介质。

技术介绍

[0002]近些年来，深度学习作为新兴技术在图像领域蓬勃发展，因其自主学习图像数据特征的能力，极大程度的避免了人工设计算法的繁琐，并且具备精准的检测性能、高效的检测效率以及对各种不同类型的图像任务都有比较好的泛化性能，使得深度学习技术在图像领域得到广泛应用，深度学习技术在图像领域的应用包括图像检测、图像分类、图像重构等。卷积操作作为深度学习在图像领域的灵魂算子，具有局部感知、权值共享和下采样的三大特性，因其出色的图像特征提取效果，成为深度学习在图像领域大放异彩的基石。
[0003]卷积神经网络模型往往极度复杂，并伴随着高额的存储空间与计算资源消耗，这使得深度学习模型很难落实到各个硬件平台。例如VGG
‑
16卷积神经网络，其参数数量有1亿3千多万，卷积神经网络模型占用500多MB的存储空间，需要进行300多亿次的浮点运算才能完成一次图像识别任务。经研究表本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种卷积神经网络模型的剪枝方法，其特征在于，包括：获取输入特征图像和卷积神经网络模型，所述卷积神经网络模型包括特征提取模块和注意力生成模块；将所述输入特征图像输入所述卷积神经网络模型的所述特征提取模块；通过所述特征提取模块中的N个卷积核对所述原始图像进行图像特征处理，将所述N个卷积核对应的N个特征通道进行通道融合，生成输出特征图；将所述输出特征图输入所述卷积神经网络模型的注意力生成模块；通过所述注意力生成模块分析所述输出特征图，分别为所述N个特征通道生成N个注意力向量；根据所述N个注意力向量分别计算所述N个特征通道的注意力值；根据所述N个特征通道的注意力值对所述特征提取模块中的N个卷积核做剪枝处理。2.根据权利要求1所述的剪枝方法，其特征在于，所述通过所述注意力生成模块分析所述输出特征图，分别为所述N个特征通道生成N个注意力向量，包括：通过所述注意力生成模块对所述输出特征图中所述N个特征通道分别进行特征通道压缩，生成所述N个特征通道的压缩特征；通过所述注意力生成模块对所述压缩特征分别进行池化操作，生成所述N个特征通道的池化数据；通过所述注意力生成模块根据所述池化数据分别计算所述N个特征通道的注意力向量。3.根据权利要求2所述的剪枝方法，其特征在于，所述注意力生成模块包括Conv
‑
ReLU层、全局平均池化层和Conv
‑
SigMoid函数层；所述通过所述注意力生成模块对所述输出特征图中所述N个特征通道分别进行特征通道压缩，生成所述N个特征通道的压缩特征，包括：所述通过所述Conv
‑
ReLU层对所述输出特征图中所述N个特征通道分别进行特征通道压缩，生成所述N个特征通道的压缩特征。4.根据权利要求2所述的剪枝方法，其特征在于，所述通过所述注意力生成模块对所述压缩特征分别进行池化操作，生成所述N个特征通道的池化数据，包括：通过所述全局平均池化层对所述压缩特征分别进行全局平均池化操作，生成所述N个特征通道的池化数据。5.根据权利要求2所述的剪枝方法，其特征在于，所述通过所...

【专利技术属性】
技术研发人员：乐康，张耀，张滨，徐大鹏，曹保桂，
申请(专利权)人：深圳精智达技术股份有限公司，
类型：发明
国别省市：