一种卷积神经网络的轻量化方法及装置制造方法及图纸

本申请实施例公开了一种卷积神经网络的轻量化方法及装置，所述方法包括：获取卷积神经网络模型中每层卷积层中的每个卷积核的权重系数矩阵；针对任意一个权重系数矩阵，将该权重系数矩阵中绝对值小于预设阈值的权重系数值置为零，获得第一矩阵以及第二矩阵；所述第一矩阵中包括该权重系数矩阵中所有非零的权重系数，所述第二矩阵中包括该权重系数矩阵中所有非零的权重系数在该权重系数矩阵中的下标值；将所述第一矩阵以及所述第二矩阵作为压缩后的该权重系数矩阵；根据所述卷积神经网络模型中每层卷积层中的每个卷积核压缩后的权重系数矩阵对输入的图像进行交通拥堵识别。

A lightweight method and device for a convolution neural network

【技术实现步骤摘要】
一种卷积神经网络的轻量化方法及装置
本申请涉及机器学习
，特别涉及一种卷积神经网络的轻量化方法及装置。
技术介绍
近年来，交通拥堵已经成为制约城市经济和社会发展的瓶颈，它是城市道路资源供、需矛盾的集中体现，与城市运行的各个方面密切相关，它直接造成城市的整体运转效率低，在城市发展过程中的短板效应日益明显。交通拥堵的治理首先应是及时发现拥堵的路口、路段，然后利用交通广播、微博等新媒体公众信息平台发出拥堵信息，使车辆合理选择行驶线路，以降低拥堵路口、路段的压力，使拥堵路口、路段逐步恢复畅通。目前，利用视频检测技术进行交通拥堵检测时，有两种方式：一种是传输视频图像到监控中心的方式；另一种是在获取诸如流量、道路占有率、速度、车间距、排队长度等交通参数后，选取其中的多个交通状态参数，并利用预先定义的拥堵判别方法实现对交通拥堵的判断。由于各种参数的获得通常不太准确，所以会导致最终处理结果不准，且该方式没有较好的扩展能力。导致计算时间过长，影响了交通拥堵的识别的实时性，进而无法及时的通知车辆合理选择行驶线路，对交通拥堵的治理效果甚微。因此，如何提高道路交通图像识别的效率，是一个亟待解决的问题。
技术实现思路
本申请实施例提供了一种卷积神经网络的轻量化方法及装置，利用深度学习实现对交通拥堵路口、路段的车辆的识别，并提高了道路交通图像识别的效率。本申请实施例提供了一种卷积神经网络的轻量化方法，所述方法包括：获取卷积神经网络模型中每层卷积层中的每个卷积核的权重系数矩阵；针对任意一个权重系数矩阵，将该权重系数矩阵中绝对值小于预设阈值的权重系数值置为零，获得第一矩阵以及第二矩阵；所述第一矩阵中包括该权重系数矩阵中所有非零的权重系数，所述第二矩阵中包括该权重系数矩阵中所有非零的权重系数在该权重系数矩阵中的下标值；将所述第一矩阵以及所述第二矩阵作为压缩后的该权重系数矩阵；根据所述卷积神经网络模型中每层卷积层中的每个卷积核压缩后的权重系数矩阵对输入的图像进行交通拥堵识别。一种可能的实现方式，所述获得第一矩阵以及第二矩阵之后，所述方法还包括：采用霍夫曼编码压缩所述第一矩阵和所述第二矩阵。一种可能的实现方式，所述第二矩阵的第一项为所述权重系数矩阵中所有非零的权重系数的第一项的下标值；所述第二矩阵的第K项的下标值为所述权重系数矩阵中所有非零的权重系数中第K项权重系数的下标值与第K-1项的下标值的差值，K大于或等于2。一种可能的实现方式，所述根据所述卷积神经网络模型中每层卷积层中的每个卷积核压缩后的权重系数矩阵对输入的图像进行交通拥堵识别，包括：根据所述卷积神经网络模型确定所述图像中的车辆数目和排队长度，并根据所述图像中的车辆数目和排队长度确定所述图像的交通拥堵类别。一种可能的实现方式，所述卷积神经网络包括M个卷积层，M大于2；针对所述M个卷积层中第2层至第M-1层中的第n个卷积层，该卷积层包括第一子卷积层和第二子卷积层；所述第一子卷积层的输出通道与所述第二子卷积层的输入通道连接；该卷积层中的第一子卷积层包括P个1×1的卷积核；所述P为第n-1层卷积层的输出通道数；该卷积层中的第二子卷积层包括J个1×1的卷积核以及L个3×3的卷积核，P＝J+L×3；所述M，P，J，L为大于或等于1的正整数，所述n为大于1且小于M的正整数。本申请实施例提供了一种卷积神经网络的轻量化装置，所述装置包括：接收单元，用于获取卷积神经网络模型中每层卷积层中的每个卷积核的权重系数矩阵；处理单元，用于针对任意一个权重系数矩阵，将该权重系数矩阵中绝对值小于预设阈值的权重系数值置为零，获得第一矩阵以及第二矩阵；所述第一矩阵中包括该权重系数矩阵中所有非零的权重系数，所述第二矩阵中包括该权重系数矩阵中所有非零的权重系数在该权重系数矩阵中的下标值；将所述第一矩阵以及所述第二矩阵作为压缩后的该权重系数矩阵；根据所述卷积神经网络模型中每层卷积层中的每个卷积核压缩后的权重系数矩阵对输入的图像进行交通拥堵识别。一种可能的实现方式，所述处理单元采用霍夫曼编码压缩所述第一矩阵和所述第二矩阵。一种可能的实现方式，所述第二矩阵的第一项为所述权重系数矩阵中所有非零的权重系数的第一项的下标值；所述第二矩阵的第K项的下标值为所述权重系数矩阵中所有非零的权重系数中第K项权重系数的下标值与第K-1项的下标值的差值，K大于或等于2。一种可能的实现方式，所述处理单元用于：根据所述卷积神经网络模型确定所述图像中的车辆数目和排队长度，并根据所述图像中的车辆数目和排队长度确定所述图像的交通拥堵类别。一种可能的实现方式，所述卷积神经网络包括M个卷积层，M大于2；针对所述M个卷积层中第2层至第M-1层中的第n个卷积层，该卷积层包括第一子卷积层和第二子卷积层；所述第一子卷积层的输出通道与所述第二子卷积层的输入通道连接；该卷积层中的第一子卷积层包括P个1×1的卷积核；所述P为第n-1层卷积层的输出通道数；该卷积层中的第二子卷积层包括J个1×1的卷积核以及L个3×3的卷积核，P＝J+L×3；所述M，P，J，L为大于或等于1的正整数，所述n为大于1且小于M的正整数。本申请实施例提供了一种计算机程序产品，包括计算机可读指令，当计算机读取并执行所述计算机可读指令，使得计算机执行如上述任意一项所述的方法。本申请实施例提供一种芯片，所述芯片与存储器相连，用于读取并执行所述存储器中存储的软件程序，以实现上述任一项中各种可能的设计中的方法。本申请实施例提供了一种卷积神经网络的轻量化方法及装置，通过获取卷积神经网络(ConvolutionalNeuralNetwork，CNN)模型中每层卷积层中的每个卷积核的权重系数矩阵；针对任意一个权重系数矩阵，将该权重系数矩阵中绝对值小于预设阈值的权重系数值置为零，获得第一矩阵以及第二矩阵；所述第一矩阵中包括该权重系数矩阵中所有非零的权重系数，所述第二矩阵中包括该权重系数矩阵中所有非零的权重系数在该权重系数矩阵中的下标值；将所述第一矩阵以及所述第二矩阵作为压缩后的该权重系数矩阵；根据所述卷积神经网络模型中每层卷积层中的每个卷积核压缩后的权重系数矩阵对输入的图像进行交通拥堵识别。在达到相同识别精度的前提下，对现有技术中的卷积神经网络模型压缩，减少了卷积神经网络模型的计算时间，提高了交通拥堵的识别的实时性进而实现对交通路况拥堵情况的判断，及时向开车者提供拥堵信息，以便于提前规划路线。附图说明图1为本申请实施例提供的一种卷积神经网络的轻量化方法的流程示意图；图2为本申请实施例提供的一种卷积神经网络的结构示意图；图3为本申请实施例提供的一卷积神经网络的结构示意图；图4为本申请实施例提供的一种卷积神经网络的轻量化装置的结构示意图。具体实施方式深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络。它通过模仿人脑的机制来解释数据，例如图像、声音和文本，其核心通过构建具有多个隐层的机器学习模型和大量的训练数据，来学习更有用的特征，从而最终提升分类或预测的准确性。卷积神经网络是近年发展起来，并引起广泛重视的一种高效识别方法。该方法能够对当前道路的交通情况进行准确判断，并给出交通的拥堵级别，有利于交通疏导和监管。利用深度学习方法对包含各种交通状态的图像进行学习，得到所需的网本文档来自技高网...

【技术保护点】
一种卷积神经网络的轻量化方法，其特征在于，所述方法包括：获取卷积神经网络模型中每层卷积层中的每个卷积核的权重系数矩阵；针对任意一个权重系数矩阵，将该权重系数矩阵中绝对值小于预设阈值的权重系数值置为零，获得第一矩阵以及第二矩阵；所述第一矩阵中包括该权重系数矩阵中所有非零的权重系数，所述第二矩阵中包括该权重系数矩阵中所有非零的权重系数在该权重系数矩阵中的下标值；将所述第一矩阵以及所述第二矩阵作为压缩后的该权重系数矩阵；根据所述卷积神经网络模型中每层卷积层中的每个卷积核压缩后的权重系数矩阵对输入的图像进行交通拥堵识别。

【技术特征摘要】
1.一种卷积神经网络的轻量化方法，其特征在于，所述方法包括：获取卷积神经网络模型中每层卷积层中的每个卷积核的权重系数矩阵；针对任意一个权重系数矩阵，将该权重系数矩阵中绝对值小于预设阈值的权重系数值置为零，获得第一矩阵以及第二矩阵；所述第一矩阵中包括该权重系数矩阵中所有非零的权重系数，所述第二矩阵中包括该权重系数矩阵中所有非零的权重系数在该权重系数矩阵中的下标值；将所述第一矩阵以及所述第二矩阵作为压缩后的该权重系数矩阵；根据所述卷积神经网络模型中每层卷积层中的每个卷积核压缩后的权重系数矩阵对输入的图像进行交通拥堵识别。2.根据权利要求1所述的方法，其特征在于，所述获得第一矩阵以及第二矩阵之后，所述方法还包括：采用霍夫曼编码压缩所述第一矩阵和所述第二矩阵。3.根据权利要求1所述的方法，其特征在于，所述第二矩阵的第一项为所述权重系数矩阵中所有非零的权重系数的第一项的下标值；所述第二矩阵的第K项的下标值为所述权重系数矩阵中所有非零的权重系数中第K项权重系数的下标值与第K-1项的下标值的差值，K大于或等于2。4.如权利要求1所述的方法，其特征在于，所述根据所述卷积神经网络模型中每层卷积层中的每个卷积核压缩后的权重系数矩阵对输入的图像进行交通拥堵识别，包括：根据所述卷积神经网络模型确定所述图像中的车辆数目和排队长度，并根据所述图像中的车辆数目和排队长度确定所述图像的交通拥堵类别。5.根据权利要求1所述的方法，其特征在于，所述卷积神经网络包括M个卷积层，M大于2；针对所述M个卷积层中第2层至第M-1层中的第n个卷积层，该卷积层包括第一子卷积层和第二子卷积层；所述第一子卷积层的输出通道与所述第二子卷积层的输入通道连接；该卷积层中的第一子卷积层包括P个1×1的卷积核；所述P为第n-1层卷积层的输出通道数；该卷积层中的第二子卷积层包括J个1×1的卷积核以及L个3×3的卷积核，P＝J+L×3；所述M，P，J，L为大于...

【专利技术属性】
技术研发人员：傅鸿，闾凡兵，尹纪军，钮玉晓，王栋梁，丁继强，
申请(专利权)人：贵阳海信网络科技有限公司，
类型：发明
国别省市：贵州,52