System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术属于计算机、智慧农业领域,具体涉及一种基于伪标签算法和mobilenetv2网络的荷花表型识别方法和装置。
技术介绍
1、随着深度学习技术的不断发展,基于卷积神经网络(convolutioal neuralnetwork,cnn)的图像分类方法逐渐应用于各类表型识别中,但是因荷花的类别数量多,且不同子类相似度高,识别难度大,目前没有专门可用于荷花表型识别的产品。
2、目前市场上存在基于卷积神经网络的图像分类识别技术,但对于荷花表型识别的领域还未有广泛研究,故亟需提出一种能对荷花表型识别的新方法。
技术实现思路
1、本专利技术的目的在于提供一种基于伪标签算法和mobilenetv2网络的荷花表型识别方法和装置,其可以根据荷花表型数据集训练出轻量级模型并识别不同种类的荷花表型图像。
2、为实现上述目的,本专利技术采取的技术方案如下:
3、一种基于伪标签算法和mobilenetv2网络的荷花表型识别方法,其包括如下步骤:
4、步骤一、构建网格模型,该模型选取mobilenetv2网络作为荷花识别的特征提取网络,并将se注意力机制应用到mobiletnetv2的特征处理单元中,使得网络更加全面考虑特征之间的复杂关系,同时还利用伪标签算法对未标注的荷花数据进行伪标注,减少对荷花数据集的标注;
5、步骤二、训练模型,使用荷花数据集中的训练集预训练模型初始化mobilenetv2特征提取网络,再通过预训练得到的模型,对未标注的
6、步骤三、通过训练后模型对荷花表型进行识别。
7、进一步的,所述步骤二中,使用adam算法作为优化器,其中预训练流程如下:
8、(1)使用荷花数据集中的训练集预训练模型初始化mobilenetv2特征提取网络;
9、(2)从输入管道中获取由数据集中得到并经过图像预处理的训练样本;
10、(3)将步骤(2)中获取到的批次训练样本输入网络模型,经过与se模块融合的特征提取网络以及全连接层,最后通过softmax计算各类别的概率;
11、(4)使用类别交叉熵损失函数计算网络模型的损失值;
12、(5)通过计算梯度值,使用adam优化器,设置初始学习速率,将误差反向传播回整个网络,更新全连接层的参数;
13、(6)判断是否达到指定迭代次数,若是,认为网络已经收敛,则进入步骤(7),若否则重新进入步骤(2)。
14、(7)使用上述预训练模型对未标注的数据进行预测;
15、(8)从输入管道中获取由数据集中得到并经过图像预处理的训练样本;
16、(9)将步骤(8)中获取到的批次训练样本输入预训练网络模型,经过与se模块融合的特征提取网络以及全连接层,最后通过softmax计算各类别的概率;
17、(10)使用类别交叉熵损失函数计算网络模型的损失值;
18、(11)通过计算梯度值,使用adam优化器,设置初始学习速率,将误差反向传播回整个网络,更新网络每一层的参数;
19、(12)判断是否达到最小熵条件,若是并且未达到迭代次数,则对数据标注伪标签,则进入步骤(8),若达到迭代次数,则进入步骤(13);
20、(13)通过测试集计算最终网络模型的准确率、精确率、召回率、f1值。
21、进一步的,所述特征提取网络运用se注意力模块和7个不同的倒置残差瓶颈层对提取的初步特征图进行注意力增强特征处理,再基于模型最后的全连接层得到一个新的特征空间表示。
22、更进一步的,所述特征提取网络加入反向残差结构,先采用了1×1卷积升维,然后采用3×3深度可分离卷积进行特征提取,最后用1×1卷积进行降维。
23、更进一步的,所述se注意力机制放置于倒置残差瓶颈层前后,将输入的荷花数据进行预处理之后,再经过se模块自适应学习每个通道的重要性,并在特征图上加权调整特征表示,增强模型在特定任务中的表达能力;其中se模块主要通过三个操作来重标定前面得到的特征:压缩、激励和重新加权。
24、进一步的,所述压缩是对每个通道的特征信息进行融合,采用全局平均池化来实现,输出维度为1×1×c;全局平均池化将包含全局信息的w×h×c的特征图直接压缩成一个1×1×c的特征向量,c个特征图的通道特征被压缩成一个数值;如下式所示:
25、
26、式中u代表输入特征向量,z代表输出特征向量,h代表u的高度,w代表u的宽度,uc(i,j)代表特征图uc的第i行,第j列像素;
27、所述激励是将压缩得到的全局特征,通过全连接层对每个通道的重要性进行预测;其首先通过一个降维比为r的fc降维层做通道压缩,然后通过relu函数,之后在fc升维层中将之前压缩的通道升维,最后通过sigmoid函数得到输出结果s,如下式所示:
28、s=fex(z,w)=δ(g(z,w))=δ(w2δ(w1z))
29、式中σ为relu函数,w1、w2为两个全连接层,其中
30、所述重新加权是将激励的输出的权重作为经过特征选择后的每个特征通道的重要性,然后通过乘法逐步通道加权到先前的特征上,完成在通道维度上的对原始特征的重标定;实现方法如下式:
31、
32、其中和fscale(uc,sc)是指标量sc和特征映射uc∈rh×w之间的信道乘法。
33、进一步的,所述伪标签算法通过使用未标记样本的标签作为变量,利用已标记样本的标签来传播信息,从而对未标记样本进行标签预测;其通过最小化标签传播过程中的熵来实现半监督学习,在标签传播过程中,已标记样本的标签会被传播到未标记样本,并根据相似性度量进行调整,直到达到收敛状态;通过最小化熵,来提高标签传播算法对未标记样本的标签预测准确性。
34、进一步的,所述伪标签算法中,伪标签部分的权重使用α(t)来进行调节,如下式:
35、
36、其中n是标记的样本数目,n′是未标记的样本数目,和fim分别是m类标记样本的真实值和类概率,和fi′m分别是m类未标记样本的伪标签和输出类,α(t)是真实标签与伪标签之间的系数。
37、进一步的,所述伪标签算法具体步骤为,先将未标注数据的荷花图像输入网络,使用预训练模型对其预测,此时在网络的末端可以得到对其的预测,如下式:
38、
39、其中xt为输入数据,es为预训练模型;
40、接下来,按照预测结果的类别划分为k个集合,如下式:
41、
42、通过bald方法使用mcdropout对样本信息增益进行估计,如下式:
43、
44、假设类别i有ni个样本,将这些样本按照置信度与信息增益的和由高到低对齐进行排本文档来自技高网...
【技术保护点】
1.一种基于伪标签算法和MobileNetV2网络的荷花表型识别方法,其特征在于包括如下步骤:
2.根据权利要求1所述的一种基于伪标签算法和MobileNetV2网络的荷花表型识别方法,其特征在于,所述步骤二中,使用Adam算法作为优化器,其中预训练流程如下:
3.根据权利要求1所述的一种基于伪标签算法和MobileNetV2网络的荷花表型识别方法,其特征在于,所述特征提取网络运用SE注意力模块和7个不同的倒置残差瓶颈层对提取的初步特征图进行注意力增强特征处理,再基于模型最后的全连接层得到一个新的特征空间表示。
4.根据权利要求3所述的一种基于伪标签算法和MobileNetV2网络的荷花表型识别方法,其特征在于,所述特征提取网络加入反向残差结构,先采用了1×1卷积升维,然后采用3×3深度可分离卷积进行特征提取,最后用1×1卷积进行降维。
5.根据权利要求3所述的一种基于伪标签算法和MobileNetV2网络的荷花表型识别方法,其特征在于,所述SE注意力机制放置于倒置残差瓶颈层前后,将输入的荷花数据进行预处理之后,再经过SE模块自适应
6.根据权利要求3所述的一种基于伪标签算法和MobileNetV2网络的荷花表型识别方法,其特征在于,所述压缩是对每个通道的特征信息进行融合,采用全局平均池化来实现,输出维度为1×1×C;全局平均池化将包含全局信息的W×H×C的特征图直接压缩成一个1×1×C的特征向量,C个特征图的通道特征被压缩成一个数值;如下式所示:
7.根据权利要求1所述的一种基于伪标签算法和MobileNetV2网络的荷花表型识别方法,其特征在于,所述伪标签算法通过使用未标记样本的标签作为变量,利用已标记样本的标签来传播信息,从而对未标记样本进行标签预测;其通过最小化标签传播过程中的熵来实现半监督学习,在标签传播过程中,已标记样本的标签会被传播到未标记样本,并根据相似性度量进行调整,直到达到收敛状态;通过最小化熵,来提高标签传播算法对未标记样本的标签预测准确性。
8.根据权利要求1所述的一种基于伪标签算法和MobileNetV2网络的荷花表型识别方法,其特征在于,所述伪标签算法中,伪标签部分的权重使用α(t)来进行调节,如下式:
9.根据权利要求1所述的一种基于伪标签算法和MobileNetV2网络的荷花表型识别方法,其特征在于,所述伪标签算法具体步骤为,先将未标注数据的荷花图像输入网络,使用预训练模型对其预测,此时在网络的末端可以得到对其的预测,如下式:
10.一种基于伪标签算法和MobileNetV2网络的荷花表型识别装置,其特征在于包括:
...【技术特征摘要】
1.一种基于伪标签算法和mobilenetv2网络的荷花表型识别方法,其特征在于包括如下步骤:
2.根据权利要求1所述的一种基于伪标签算法和mobilenetv2网络的荷花表型识别方法,其特征在于,所述步骤二中,使用adam算法作为优化器,其中预训练流程如下:
3.根据权利要求1所述的一种基于伪标签算法和mobilenetv2网络的荷花表型识别方法,其特征在于,所述特征提取网络运用se注意力模块和7个不同的倒置残差瓶颈层对提取的初步特征图进行注意力增强特征处理,再基于模型最后的全连接层得到一个新的特征空间表示。
4.根据权利要求3所述的一种基于伪标签算法和mobilenetv2网络的荷花表型识别方法,其特征在于,所述特征提取网络加入反向残差结构,先采用了1×1卷积升维,然后采用3×3深度可分离卷积进行特征提取,最后用1×1卷积进行降维。
5.根据权利要求3所述的一种基于伪标签算法和mobilenetv2网络的荷花表型识别方法,其特征在于,所述se注意力机制放置于倒置残差瓶颈层前后,将输入的荷花数据进行预处理之后,再经过se模块自适应学习每个通道的重要性,并在特征图上加权调整特征表示,增强模型在特定任务中的表达能力;其中se模块主要通过三个操作来重标定前面得到的特征:压缩、激励和重新加权。
6.根据权利要求3所述的一种基于伪标签算法和mobilene...
【专利技术属性】
技术研发人员:袁培森,陈子欣,邹晶梅,陈元嘉,丁毅飞,徐迎春,金奇江,
申请(专利权)人:南京农业大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。