The present invention relates to a non random Dropout regularized convolution neural network design method, which is used for image classification, and improves the design method of randomized Dropout regularized convolution neural network. In training process, all the feature points that are less than a threshold are zeroed on the feature map, and the feature points after zeroing do not participate in the forward propagation and the back propagation process in the network training process, and do not carry out the Dropout operation during the testing process.
【技术实现步骤摘要】
非随机Dropout正则化的卷积神经网络设计方法
本专利技术涉及人机交互、计算机视觉和深度学习领域,特别涉及一种非随机Dropout正则化的方法。
技术介绍
图像分类是计算机视觉中一个十分重要的研究领域,它是行人检测、人脸检测、车辆检测等应用的基础,可以广泛地用于智能监控、无人驾驶汽车以及图像检索等领域。图像分类技术是众多应用的基础,人们对它的性能要求也越来越高。与此同时,凭借优异的分类效果,卷积神经网络得到越来越多的重视。因此,技术人员自然而然地将卷积神经网络和图像分类结合在了一起。但是,由于训练数据的有限性和卷及神经网络结构的复杂性,卷积神经网络极易出现过拟合问题,影响了分类性能。正则化是卷积神经网络中的重要技术,它有效解决了神经网络的过拟合问题,提升了神经网络的检测性能。在目前众多的正则化方法中,丢弃(Dropout)[1]方法是最简单有效的方法,因此是使用最广泛的一种方法。传统的Dropout是一种随机的方法,它以一定的概率(比如0.5)随机地在特征图上选取一部分特征点,然后将这一部分特征点的激活值设置为零,这一部分被置零的特征点将不会参与到卷积神经网络的 ...
【技术保护点】
一种非随机Dropout正则化的卷积神经网络设计方法,用于图像分类,对随机Dropout正则化的卷积神经网络设计方法进行改进。在训练过程中,将特征图上所有小于某一个阈值的特征点置零,置零后的特征点不参与网络训练过程中的正向传播和反向传播过程,在测试过程中不进行Dropout操作。
【技术特征摘要】
1.一种非随机Dropout正则化的卷积神经网络设计方法,用于图像分类,对随机Dropout正则化的卷积神经网络设计方法进行改进。在训练过程中,将特征图上所有小于某一个阈值的特征点置零,置零后的特征点不参与网络训练过程中的正向传播和反向传播过程,在测试过程中不进行Dropout操作。2.根据权利要求1所述的设计方法,其特征在于,包括下列步骤:步骤1:数据准备过程:准备好训练图像和相应的类标;步骤2:网络设计过程:设计卷积神经网络的结构;设定卷积层的个数以及每个卷积层特征图的个数和大小;步骤3:网络初始化过程:初始化非随机Dropout方法的阈值t;用随机数对卷...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。