基于新激活函数的交通标志分类算法制造技术

本发明专利技术涉及一种基于新激活函数的交通标志分类算法，属于计算机视觉图像分类领域。本发明专利技术提出一种新激活函数，正轴引入线性函数，得以解决梯度消失现象，在负轴引入逼近指数运算的快速计算指数函数，加快收敛速度及解决神经元死亡、输出偏移问题。本发明专利技术使用数据加强后的交通标志数据集，经过构建的简单神经网络对数据集进行分类。其中构建的简单神经网络中采用新激活函数，提升交通标志分类精度，通过加快指数计算速度，从而加快实验速度，为实现实时交通的打下坚实基础。

Traffic sign classification algorithm based on new activation function

【技术实现步骤摘要】
基于新激活函数的交通标志分类算法
本专利技术涉及一种基于新激活函数的交通标志分类算法，属于计算机视觉图像分类领域。
技术介绍
交通标志是智能交通识别系统的重要组成部分，其中包含大量直观、有用的交通信息。交通标志识别既为驾驶员提供安全驾驶的环境，也为解决交通拥堵问题提供了一定的指导信息。因此，人们采用深度学习进行交通标志识别，采用卷积神经网络对交通标志进行分类。然而传统神经网络中传统激活函数在图像分类领域存在一个很大缺陷就是图像分类速度和分类精度不可兼得。卷积神经网络是由多个单层卷积神经网络组成的可训练的多层网络结构。每一个单层卷积神经网络由特征提取、非线性激活和下采样三个基本阶段组成。其中激活函数既能保留卷积层提取的特征，也能去除冗余数据，利用非线性函数映射出提取的特征。现有饱和性激活函数和非饱和性激活函数两种，Sigmoid函数与Tanh函数就为饱和性激活函数，致使神经网络会出现梯度消失现象，因此，越来越多研究者为解决这一问题，提出使用非饱和性激活函数。非饱和激活函数既能够解决梯度消失现象，也能加快收敛速度。Nair等人提出一种简单的非饱和性激活函数ReLU(线性修正单元)，其特点是正值采用线性函数，负值赋值为0，正值的特性可以解决饱和性激活函数梯度消失问题，但是由于负值强制负值为0，使得网络出现神经元死亡及输出偏移现象，影响神经网络的收敛。MaasA等人提出了基于ReLU函数的改进版LReLU(弱修正线性单元)，其特点在负半轴引入具有可变斜率的函数，可激活负值特征值，有效神经元死亡及输出偏移现象，但由于合适的可变斜率需要通过重复训练找到，实验过程繁琐，减慢的运行速度。Clevert等人提出一种指数线性激活函数ELU，负半轴通过指数级运算使输出均值趋向于0，让梯度更接近于自然梯度，增强噪声鲁棒性，但由于指数运算求梯度时计算量大，减缓了网络运行速度。上述激活函数虽然在一定程度上提升了分类精度，但是也都存在一定局限性。
技术实现思路
本专利技术在交通标志分类应用上，综合各类激活函数，为了克服现有激活函数的不足，建立了一种基于新激活函数的交通标志分类算法。本专利技术使用一种新的激活函数，既能达到提升分类精度的目的，也能达到提升分类速度的目的。本专利技术的技术方案为：一种基于基于新激活函数的交通标识分类算法，包括如下步骤：第一步：选取某一类交通标志数据集，例如GTSRB德国标准交通数据集，进行数据加强，通过调整亮度，尺寸，模糊程度等，扩大数据集种类及数量，减少因为数据集图像过少而带来的过拟合现象。第二步：构建简单神经网络用于训练数据集，经过多次实验，选取最优最合适的网络参数设置，确保超参数给分类实验结果带来严重偏差。第三步：在神经网络中，修改传统激活函数，添加新激活函数，使得交通标志分类结果既精确，又能缩短实验速度。有益效果：本方法构建交通标志分类算法中，采用新激活函数，既有利于提升原始分类精度，又能缩短实验速度，在实时交通标志识别提供坚实基础。附图说明图1是数据集部分图像；图2是构建简单网络及参数设置；图3是新激活函数图像；具体实施方式本专利技术公开了一种基于新激活函数的交通标志分类算法，新激活函数从两个方面优化交通标志分类算法。一方面，使用计算更加快速的指数函数引入负半轴，既解决神经元死亡及输出偏移问题，又缩短实验时间；另一方面，使用线性函数引入正半轴，解决梯度消失现象，提升交通标志分类精度。对本方法做进一步说明：1、ELU激活函数可以写成：缺点在于运行时间慢。2、计算机存在一种快速浮点计算思想。单精度浮点数是32位，双精度浮点数是64位，均包含符号位S，指数位E，尾数位M及指数偏移值Z，若忽略单精度与双精度的差异，浮点数的格式可以表示为：Y＝(-1)s·(1+M)·2X,X＝E-Z单精度的Z为127，双精度Z为1023，假如S与M均为0，那么求值就变为Y＝2X，如果只是求2X，则只需要将X存入位于高32位中属于指数位的位置。这时可以将ex简化成以2为底的幂运算形式其中y表示可移动的位数。如果x/ln2整除，则H存入指数位，不会造成精度损失，反之，就会产生小数位，这时将H向左移动y位后小数部分存入尾数位M中。利用计算机快速浮点计算的思想，优化传统激活函数，产生新激活函数。3、提出新激活函数，公式可写成：其中负半轴新指数函数就是对ELU负半轴指数函数的优化，将ELU函数中负半轴部分优化成2x/ln2-1，利用计算机快速浮点计算，使用简单的位移位及整数代数运算等操作来实现指数快速逼近，实现激活函数的快速计算。4、通过实验选取合适α数值。5、得到能使交通标志分类结果最优的激活函数。本文档来自技高网...

【技术保护点】
1.一种基于新激活函数的交通标志分类算法，其特征为激活函数公式的新颖，其新激活函数公式可以写作：

【技术特征摘要】
1.一种基于新激活函数的交通标志分类算法，其特征为激活函数公式的新颖，其新激活函数公式可以写作：


2.如权利要求1所示的公式，利用计算机浮点计算优化传统激...

【专利技术属性】
技术研发人员：郑秋梅，谭丹，
申请(专利权)人：中国石油大学华东，
类型：发明
国别省市：山东;37