一种基于Dropout和去相关策略的GCNN网络优化方法技术

本发明专利技术公开了一种基于Dropout和去相关策略的GCNN网络优化方法，涉及计算机视觉技术领域，具体包括两个步骤：(1)通过对卷积层、采样层和全连接层的不同组合使用Dropout，比较其对网络泛化能力的影响，得到最佳训练策略；(2)降低GCNN隐层激活单元间的相关性，利用协方差矩阵范数惩罚来优化GCNN网络，减少过拟合，提高网络泛化能力。本发明专利技术方法通过结合Dropout技术和去相关策略，显著提升了网络的泛化能力和减少过拟合的可能性，并且本发明专利技术的方法在提高GCNN网络泛化能力和减少过拟合方面具有明显的优势，特别是在处理大规模和复杂数据集时，这些优化策略将极大地提升网络性能和应用价值。

【技术实现步骤摘要】

本专利技术涉及计算机视觉，具体为一种基于dropout和去相关策略的gcnn网络优化方法。

技术介绍

1、在计算机视觉领域，随着任务难度的增加，构建大规模的卷积神经网络(cnn)已成为提高视觉识别效果的重要手段。自从large scale visual recognition challenge(ilsvrc)以来，研究表明，网络分类精度的提升在很大程度上依赖于网络规模的扩大。这一发现促使了对深度学习模型的深入研究，特别是在网络结构设计和训练策略上的创新。

2、早期的研究者，如lecun等人，通过引入具有局部感受野的卷积操作和下采样，将图像的局部空间拓扑结构信息融入网络，有效缓解了过拟合问题。然而，这种方法并没有解决网络参数过多的问题。hinton等人通过预学习和限制玻尔兹曼机的使用，从训练图像中挖掘有用信息，获得了具有优化初始权值的网络结构。尽管这种方法在一定程度上提高了网络性能，但随着网络层数的增加，所需的时间开销也随之增大。

3、为了进一步提高网络的泛化能力，hinton等人提出了dropout策略，通过在训练过程中随机忽略网本文档来自技高网...

【技术保护点】

1.一种基于Dropout和去相关策略的GCNN网络优化方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种基于Dropout和去相关策略的GCNN网络优化方法，其特征在于：所述单层Dropout实验为分别在每个网络的不同层次使用Dropout；包括GCNN-1：在卷积层使用Dropout、GCNN-2：在采样层使用Dropout和GCNN-3：在全连接层使用Dropout。

3.根据权利要求2所述的一种基于Dropout和去相关策略的GCNN网络优化方法，其特征在于：所述双层Dropout实验为在每个网络的两层使用Dropout；包括GCNN-4：在卷...

【技术特征摘要】

1.一种基于dropout和去相关策略的gcnn网络优化方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种基于dropout和去相关策略的gcnn网络优化方法，其特征在于：所述单层dropout实验为分别在每个网络的不同层次使用dropout；包括gcnn-1：在卷积层使用dropout、gcnn-2：在采样层使用dropout和gcnn-3：在全连接层使用dropout。

3.根据权利要求2所述的一种基于dropout和去相关策略的gcnn网络优化方法，其特征在于：所述双层dropout实验为在每个网络的两层使用dropout；包括gcnn-4：在卷积层和采样层同时使用dropout、gcnn-5：在采样层和全连接层同时使用dropout和gcnn-6：在卷积层和全连接层同时使用dropout。

4.根据权利要求3所述的一种基于dropout和去相关策略的gcnn网络优化方法，其特征在于：分别训练gcnn-1到gcnn-6模型，使用相同的训练参数，分析评估指标后得到结果如下：gcnn-1：在卷积层使用dropout，能够有效减少特征过拟合，但过高的dropout会降低特征提取能力；gcnn-2：在采样层使用dropout，通过max-pooling增加样本多样性，适度的dropout有助于泛化能力提升；gcnn-3：在全...

【专利技术属性】
技术研发人员：胡东映，赵仲秋，汪涛，王攀，董春，谢团结，
申请(专利权)人：合肥耀安科技有限公司，
类型：发明
国别省市：