深度学习模型压缩方法及相关设备技术

本发明专利技术实施例公开一种深度学习模型压缩方法及相关设备，本发明专利技术实施例根据每个通道的通道贡献率以及贡献率阈值，对深度学习模型的每层卷积层的通道进行裁剪，减少了通道数，也即减少了模型的计算量，从而将深度学习模型进行有效的压缩。行有效的压缩。行有效的压缩。

Deep learning model compression method and related equipment

【技术实现步骤摘要】
深度学习模型压缩方法及相关设备


[0001]本专利技术涉及人工智能
，尤其涉及一种深度学习模型压缩方法、一种深度学习模型压缩装置、一种深度学习模型压缩设备及一种计算机存储介质。

技术介绍

[0002]深度学习是学习样本数据的内在规律和表示层次，这些学习过程中获得的信息对诸如文字，图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力，能够识别文字、图像和声音等数据。
[0003]随着深度学习技术的快速发展，各种深度学习技术应用到生活中的各个角落。为了追求更高的精度和性能，不断地加深网络结构的宽度与深度，导致深度学习训练出来的模型越来越大。然而，人们的生活中，存在很多的边缘设备和移动设备。如果想要将这些深度学习训练的模型应用到这些边缘设备和移动设备上，由于这些设备的算力不足，导致不能做到实时给出结果，因此，亟需对模型进行压缩。

技术实现思路

[0004]本专利技术实施例提供了一种深度学习模型压缩方法及相关设备，可以有效对模型进行压缩。
[0005]一方面，本专利技术实施例提供了一本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种深度学习模型压缩方法，其特征在于，包括：获取深度学习模型的每层卷积层的输入特征图的每个通道对应的卷积值；根据每个通道的卷积值与所在卷积层的总卷积值的比值，确定每个通道的通道贡献率；根据所述通道贡献率和贡献率阈值，对每层卷积层的输入特征图的通道进行裁剪，得到压缩后的深度学习模型。2.根据权利要求1所述的方法，其特征在于，所述方法还包括：确定深度学习模型的每层卷积层的各卷积核的权重矩阵的L1范数值；裁剪所述L1范数值小于或等于范数阈值的卷积核，得到压缩后的深度学习模型。3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：确定深度学习模型的每层卷积层的各卷积核之间的相似度；裁剪所述相似度大于或等于相似度阈值的卷积核，得到压缩后的深度学习模型。4.根据权利要求3所述的方法，其特征在于，所述确定深度学习模型的每层卷积层的各卷积核之间的相似度，包括：计算各卷积核之间的欧式距离或余弦距离；根据各卷积核之间的欧式距离或余弦距离，确定各卷积核之间的相似度。5.一种深度学习模型压缩装置，其特征在于，包括：第一处理模块，用于获取深度学习模型的每层卷积层的输入特征图的每个通道对应的卷积值；第二处理模块，用于根据每个通道的卷积值与所在卷积层的总卷积值的比值，确定每个通道的通道贡献率；第一裁剪模块，用于根据所述通道贡献率和贡献率阈值...

【专利技术属性】
技术研发人员：杨利伟，李禹源，胡文泽，
申请(专利权)人：深圳云天励飞技术有限公司，
类型：发明
国别省市：