近年来有关分心驾驶行为识别的研究取得了较大的进展,基于深度学习的方法被越来越多的科研人员广泛关注，但大多数模型存在权重文件大的问题,进而在实际应用和部署方面存在困难，因此对模型进行轻量化改进很有必要。针对现有分心驾驶识别算法模型过大、难以适应低计算环境等问题，选用轻量级网络MobileNetV2作为主干网络并进行改进，通过Ghost模块替换逐点卷积降低计算量，并且加入LeakyReLU函数避免神经元死亡的问题，在此基础上，通过通道剪枝算法进一步减小模型参数，之后训练改进后的MoblieNetV2网络模型，最后将待测图像输入训练得到的检测模型中，输出驾驶行为类型。输出驾驶行为类型。输出驾驶行为类型。
【技术实现步骤摘要】
一种改进MobileNetV2的分心驾驶行为检测模型轻量化方法
[0001]本专利技术涉及深度学习的图像分类领域，具体通过对MobileNetV2瓶颈结构的改进以及模型压缩来实现模型轻量化。
技术介绍
[0002]传统的分心驾驶行为检测方法主要包括基于驾驶员面部特征的驾驶行为监测和基于驾驶员身体姿态特征的分心驾驶行为监测。然而，这些方法大多依赖于手动提取的纹理或形状特征，不能同时兼顾驾驶行为监测的准确度与实时性需求，在实际应用中存在一定的局限性。
[0003]随着深度学习的发展技术的发展，一些研究者提出了基于深度学习的分心驾驶行为识别方法，即采用深度学习方法识别驾驶员的面部或者定位驾驶员的面部关键点，来判断驾驶员是存在分心驾驶行为。虽然准确率较高，但是模型结构也比较大且冗余，所消耗的计算资源也在一直增加，训练难度大且实时性较差，难以满足实际应用中设备部署的需求。而近年来成为研究热点的轻量级网络模型，能够在尽量保持精度的前提下，从体积和速度两方面对网络进行轻量化改造，进而达到部署和应用的目的。
[0004]本专利技术是借助于Howard等人提出的MobileNet及其变体MobileNetV2，充分利用深度可分离卷积和倒残差结构，达到实时高效、容易部署的效果。但由于MobileNetV2中的1*1卷积带来的大量计算量，此类模型在轻量化方面的表现仍有不足。因此，用Ghost module替换MobileNetV2网络中的逐点卷积，以此来减少运算量，使用Leaky ReLU函数替换原激活函数，避免了神经元死亡问题，并通过通道剪枝算法进一步减小模型参数，较好的提升了准确率并实现了网络轻量化的目的。
技术实现思路
[0005]本专利技术针对正常驾驶、左手发短信、左手打电话、右手发短信、右手打电话、操作收音机、喝水、身体后转、整理面容和与乘客说话10种驾驶行为进行判断，以轻量级网络模型MobileNetV2作为驾驶行为识别模型的基础，用Ghost module替换逐点卷积，减少了大量的浮点运算，使用Leaky ReLU函数替换原有激活函数，避免了神经元死亡问题，并通过通道剪枝算法进一步减小模型参数，提升神经网络的计算效率，实现端到端的司机分心驾驶行为检测。本专利技术中的高精度、高效率和低内存消耗的分心驾驶检测算法，解决了目前驾驶行为识别的算法研究大多数只考虑提升准确率而忽略轻量化的问题。
[0006]该方法可由以下步骤实现：
[0007]步骤一、下载开源数据集State Farm数据集，训练集与测试集按照8:2划分，并对所有数据集进行预处理。
[0008]步骤二、用Ghostmodule替换MobileNetV2网络中的逐点卷积,使用Leaky ReLU函数替换ReLU6函数。
[0009]步骤三、采用通道剪枝算法对上述结构进行模型压缩。
[0010]步骤四、设置训练超参数，将数据集图像输入到改进后的MoblieNetV2网络模型，得到训练完备的分心驾驶行为检测模型。
[0011]步骤五、将待测图像输入训练得到的检测模型中，输出驾驶行为检测结果。
[0012]本专利技术的优点及有益效果如下：
[0013]1.本文提供了一种新的轻量化分心驾驶检测模型，可以得到较高的测试精度；
[0014]2.本文解决了模型中逐点卷积带来计算量大的问题，在准确率波动较小的前提下，模型参数量大幅度降低，有利于实际应用和部署。
附图说明
[0015]图1为本专利技术中该算法的使用流程。
[0016]图2为不同分心驾驶行为样例示意图。
[0017]图3为Ghostmodule示意图。
[0018]图4为改进后的MobileNetV2瓶颈结构。
[0019]图5为模型剪枝算法流程图。
[0020]图6为通道剪枝原理示意图。
[0021]图7为本专利技术提出算法的训练过程中的准确率曲线和损失曲线。
具体实施方式
[0022]本专利技术具体使用过程由以下步骤实现：
[0023]步骤一、下载State Farm数据集。State Farm数据集包含10类动作：正常驾驶、左手发短信、左手打电话、右手发短信、右手打电话、操作收音机、喝水、身体后转、整理面容和与乘客说话。该数据集是竞赛平台Kaggle上的一个比赛数据集，是第一个可以公开下载的分心驾驶行为识别数据集，数据集中共有标注的图片为22424张,图像尺寸大小为480
×
460。训练集和测试集本实验按照8:2划分。
[0024]获取数据集后，进行数据预处理，由于State Farm数据集中图像的实际尺寸大小与模型中输入图片大小不一致，本文对数据集中的尺寸统一调整为模型输入尺寸大小224
×
224并进行随机裁剪，再通过归一化函数处理，经过归一化处理后的图像数据可以加快模型的收敛。
[0025]步骤二、引入Ghost模块和Leaky ReLU函数对MobileNetV2网络进行改进。卷积计算中的某些卷积特征图非常相似,部分特征图通过线性变换可以得到另一部分特征图。通过一部分内在特征图,使用计算代价较小的操作生成另一部分特征图,内在特征图和生成特征图按通道级联作为模块的输出特征图。针对逐点卷积计算量大的问题,使用Ghostmodule替换MobileNetV2倒残差模块中的逐点卷积。
[0026]神经网络中通常使用激活函数来加入非线性因素，提高模型的表达能力，ReLU函数的方程显示在(1)中。它是常用的卷积神经网络激活函数，x>0时，不会出现梯度饱和与梯度消失，计算复杂度低，不需要进行指数运算，只要一个阈值就可以得到激活值。但在x≤0时，梯度为0，这个神经元及之后的神经元梯度永远为0，不再对任何数据有所响应，导致相应参数永远不会被更新，即神经元坏死。Leaky ReLU函数在ReLU函数的基础上，当x≤0时引入一个非常小的α值作为梯度，公式如(2)所示，能够避免神经元坏死，同时补充了梯度。
[0027]ReLU(x)＝max(0,x) (1)
[0028][0029]步骤三、采用剪枝算法进一步减小模型参数。剪枝算法分为以下三个步骤：
[0030](1)对改进的MobileNetV2进行缩放系数稀疏化训练，得到具有稀疏缩放系数的模型，以找到网络中不重要的通道；
[0031](2)在剪枝阶段，我们剪枝掉低于阈值的缩放系数所对应的通道，得到剪枝后的网络；
[0032](3)对剪枝网络进行重训练以弥补剪枝带来的精度损失。
[0033]稀疏训练过程中每个卷积层的每个通道分配一个缩放因子γ作为剪枝的重要依据，在正则化的加持下，所有参数都在γ偏向0或1的基础上来完成任务，将其与该通道的输入相乘，使得每层的各通道提取的特征产生不一样的作用效果，其中缩放因子的绝对值就表示通道重要性。设Z
in
和Z
out
表示BN层的输入和输出；B表示当前的mini
...
【技术保护点】
【技术特征摘要】
1.一种改进MobileNetV2的分心驾驶行为检测模型轻量化方法，其特征是：该方法由以下步骤实现：步骤一、下载开源数据集State Farm数据集，训练集与测试集按照8:2划分，并对所有数据集进行预处理。步骤二、选取MobileNetV2作为模型，用Ghostmodule替换逐点卷积,使用Leaky ReLU函数替换原函数。步骤三、采用通道剪枝算法对上述结构进行模型压缩。步骤四、设置训练超参数，将训练集图像输入到改进后的MoblieNetV2网络模型，得到训练完备的分心驾驶行为检测模型。步骤五、将待测图像输入训练得到的检测模型中，输出驾驶行为类型。2.根据权利要求1所述的一种改进MobileNetV2的分心驾驶行为检测模型轻量化方法，其特征在于：在进行训练前，还需要对图像进行预处理，对数据集中的尺寸统一调整为模型输入尺寸大小224
×
224，再通过归一化函数处理，得到预处理后的图像数据集。3.根据权利要求1所述的一种改进MobileNetV2的分心驾驶行为检测模型轻量化方法，其特征在于：步骤二中针对逐点卷积计算量大的问题,使用Ghost module替换MobileNetV2中的逐点卷积；Leaky ReLU函数在原函数的基础上，当x≤0时引入一个非常小的α值作为梯度，能够避免神经元坏死，同时补充了梯度。4.根据权利要求1所述的一种改进MobileNetV2的分心驾驶行为检测模型轻量化方法，其特征在于：步骤三的剪枝算法分为以下几个步骤：首先，为找到网络中不重要的通道，我们对加入改进的MobileNetV2进行缩放系数稀疏化训练，...
【专利技术属性】
技术研发人员：白雪梅，李佳璐，张晨洁，胡汉平，史新瑞，侯聪聪，
申请(专利权)人：长春理工大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。