一种基于迁移学习和锐度感知最小化的小麦锈病识别方法技术

本发明专利技术提供了一种基于迁移学习和锐度感知最小化的小麦锈病识别方法，1、其特征在于：包括以下步骤：S1：获取不同病害时期的小麦锈病图片，根据病害的严重程度对小麦锈病图片进行分级；S2：对小麦锈病图片先进行预处理以及数据增强，得到小麦锈病训练集；S3：利用ImageNet大型图片数据集对轻量化模型进行预训练得到预训练模型，并保存预训练模型参数；S4：在预训练模型的基础上，利用小麦锈病训练集对预训练模型进行训练，采用标签平滑损失函数，并结合锐度感知最小化方法对预训练模型进行微调，提升预训练模型的泛化能力。本发明专利技术通过引入迁移学习方法，有效提升了轻量化模型的识别精度，同时结合锐度感知最小化方法能够防范模型过拟合的风险。范模型过拟合的风险。范模型过拟合的风险。

【技术实现步骤摘要】
一种基于迁移学习和锐度感知最小化的小麦锈病识别方法


[0001]本专利技术涉及作物病害分类领域，具体涉及一种基于迁移学习和锐度感知最小化的小麦锈病识别方法。

技术介绍

[0002]小麦是粮食作物中的最重要的作物之一，在所有的粮食作物中其总产量位居第二。小麦产量会受到病虫害的影响，小麦锈病就是其中一种较为常见的病害，病害发生时一般可导致小麦减产5～15％，严重的可达50％以上。
[0003]传统小麦锈病的防治主要依赖有经验的农户在病害发生的早期发现带病小麦，并进行医治。这对农户的病害防治知识要求较高，同时很难保证病害发现的及时性。目前，随着自动化、人工智能等技术的发展，利用无人机巡航搭配深度视觉模型实现小麦锈病的检测识别是一种可行的方案。然而由于受到设备的硬件限制，无人机上通常需要加载比较轻量化的模型。相较于传统的深度模型，轻量化模型所需存储空间小，算力要求低，但也导致了精度上的损失，以及可能存在的过拟合问题。

技术实现思路

[0004]针对现有技术中存在的不足，本专利技术的目的在于提供一种基于迁移学习和锐度感知最小化的小麦锈病识别方法。本专利技术通过引入迁移学习方法，有效提升了轻量化模型的识别精度，同时结合锐度感知最小化方法能够防范模型过拟合的风险。
[0005]为解决上述技术问题，本专利技术通过下述技术方案实现：
[0006]一种基于迁移学习和锐度感知最小化的小麦锈病识别方法，其特征在于：包括以下步骤：
[0007]S1：获取不同病害时期的小麦锈病图片，根据病害的严重程度对小麦锈病图片进行分级；
[0008]S2：对小麦锈病图片先进行预处理以及数据增强，得到小麦锈病训练集；
[0009]S3：利用ImageNet大型图片数据集对轻量化模型进行预训练得到预训练模型，并保存预训练模型参数；
[0010]S4：在预训练模型的基础上，利用小麦锈病训练集对预训练模型进行训练，采用标签平滑损失函数，并结合锐度感知最小化(Sharpness
‑
Aware Minimization，SAM)方法对预训练模型进行微调，提升预训练模型的泛化能力；
[0011]S5：在无人机上搭载由嵌入式平台和高清摄像头组成的视觉模块，将步骤S4中训练好的模型移植到嵌入式平台上，进而实现小麦锈病的实时检测识别。
[0012]进一步的：所述步骤S2中，小麦锈病图片预处理方法为：根据采集小麦锈病图片的尺寸长宽比分布直方图，选择与大部分采集小麦锈病图片相接近的长宽比，并据此规定模型输入图片的标准尺寸；小麦锈病图片的数据增强方法为：对小麦锈病图片进行几何变换和色彩变换，生成大量新的训练图片，得出小麦锈病训练集。
[0013]进一步的：所述步骤S3中，轻量化模型采用轻量化卷积神经网络模型。
[0014]进一步的：所述步骤S4中，利用小麦锈病训练集对预训练模型进行两个阶段的训练：一阶段时冻结预训练模型中的特征提取层，对预训练模型的分类器参数进行微调；二阶段时结合锐度感知最小化方法，对预训练模型的全局参数进行调整。
[0015]进一步的：所述步骤S4中，定义小麦锈病训练集为轻量化模型参数为w、损失函数为l(w,x,y)；
[0016]其中，x
i
为图片样本，y
i
为样本所对应的类别标签；
[0017]小麦锈病训练集损失的计算公式为：
[0018][0019]锐度感知最小化方法的优化目标为：
[0020][0021][0022]其中，ρ是超参数，是ρ所限定的参数空间内损失的最大值，代表锐度，λ为正则化系数；
[0023]标签平滑损失函数公式如下：
[0024][0025]其中，是平滑后的标签，y
k
是One
‑
hot标签，K是类别数，α是一个超参数。
[0026]8、进一步的：超参数ρ、α采用网格搜索的方法选取最优参数值，参数的搜索空间为[0,1]2；轻量化模型的学习率、动量项的超参数的调整主要考虑小麦锈病训练集和ImageNet大型图片数据集之间的相似度；
[0027]超参数设置原则如下：小麦锈病训练集和ImageNet大型图片数据集之间的相似度高，设置较小的学习率、动量项；小麦锈病训练集和ImageNet大型图片数据集之间的相似度低，设置较大的学习率，动量项设为经验值0.9；
[0028]采用EMD(Earth Mover
’
s Distance)方法度量小麦锈病训练集和ImageNet大型图片数据集之间的相似度，ImageNet大型图片数据集定义为S，相似度计算公式如下：
[0029][0030]sim(S,T)＝e
‑
0.01d(S,T)
ꢀꢀꢀ
(6)
[0031]其中，d
i,j
＝||g(s
i
)
‑
g(t
j
)||，g(
·
)是特征提取器，g(s
i
)代表ImageNet数据集中第i类图片特征的均值，g(t
j
)代表小麦锈病训练集中第j类图片特征的均值，M、K分别代表S和T的类别数，f
i,j
代表求解EMD问题的最佳流动。
[0032]进一步的：所述步骤S5中，无人机按照事先设定的航线、高度、速度飞行，执行巡航任务，过程中连续拍摄小麦图片，小麦图片在嵌入式平台实时地进行处理分析，结合所述步骤S4中已经训练好的预训练模型识别图片中的小麦锈病情况，识别出有小麦锈病发生的情
况时上传无人机所处位置以及病害识别信息，并传输病害图片。
[0033]本专利技术与现有技术相比，具有以下优点及有益效果：
[0034]本专利技术通过引入迁移学习方法，有效提升了轻量化模型的识别精度，同时结合锐度感知最小化方法能够防范模型过拟合的风险。本专利技术提出的方法训练得到的轻量化模型可以在嵌入式平台实现应用，配合无人机可以实时、稳定地进行小麦锈病的检测。本专利技术所提方法成本较低、实时性和稳定性良好，具有较高的实用价值。
附图说明
[0035]图1为本专利技术实施例的流程图；
[0036]图2为本专利技术实施例的图片预处理示意图；
[0037]图3为本专利技术实施例的训练过程示意图；
[0038]图4为本专利技术实施例的小麦锈病识别效果展示。
具体实施方式
[0039]为了使本领域的技术人员更好地理解本专利技术的技术方案，下面结合具体实施例对本专利技术的优选实施方案进行描述，但是应当理解，附图仅用于示例性说明，不能理解为对本专利技术的限制；为了更好说明本实施例，附图某些部件会有省略、放大或缩小，并不代表实际产品的尺寸；对于本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理解的。附图中描述位置关系仅用于示例性说明，不能理解为对本专利技术的限制。
[0040]下面结合附图和实施例对本专利技术作进一步的说本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于迁移学习和锐度感知最小化的小麦锈病识别方法，其特征在于：包括以下步骤：S1：获取不同病害时期的小麦锈病图片，根据病害的严重程度对小麦锈病图片进行分级；S2：对小麦锈病图片先进行预处理以及数据增强，得到小麦锈病训练集；S3：利用ImageNet大型图片数据集对轻量化模型进行预训练得到预训练模型，并保存预训练模型参数；S4：在预训练模型的基础上，利用小麦锈病训练集对预训练模型进行训练，采用标签平滑损失函数，并结合锐度感知最小化(Sharpness
‑
Aware Minimization，SAM)方法对预训练模型进行微调，提升预训练模型的泛化能力；S5：在无人机上搭载由嵌入式平台和高清摄像头组成的视觉模块，将步骤S4中训练好的模型移植到嵌入式平台上，进而实现小麦锈病的实时检测识别。2.根据权利要求1所述的一种基于迁移学习和锐度感知最小化的小麦锈病识别方法，其特征在于：所述步骤S2中，小麦锈病图片预处理方法为：根据采集小麦锈病图片的尺寸长宽比分布直方图，选择与大部分采集小麦锈病图片相接近的长宽比，据此规定模型输入图片的标准尺寸；小麦锈病图片的数据增强方法为：对小麦锈病图片进行几何变换和色彩变换，生成大量新的训练图片，得出小麦锈病训练集。3.根据权利要求1所述的一种基于迁移学习和锐度感知最小化的小麦锈病识别方法，其特征在于：所述步骤S3中，轻量化模型采用轻量化卷积神经网络模型。4.根据权利要求1所述的一种基于迁移学习和锐度感知最小化的小麦锈病识别方法，其特征在于：所述步骤S4中，利用小麦锈病训练集对预训练模型进行两个阶段的训练：一阶段时冻结预训练模型中的特征提取层，对预训练模型的分类器参数进行微调；二阶段时结合锐度感知最小化方法，对预训练模型的全局参数进行调整。5.根据权利要求4所述的一种基于迁移学习和锐度感知最小化的小麦锈病识别方法，其特征在于：定义小麦锈病训练集为轻量化模型参数为w、损失函数为l(w,x,y)；其中，x
i
为图片样本，y
i
为样本所对应的类别标签；小麦锈病训练集损失的计算公式为：锐度感知最小化方法的优化目标为：锐度感知最小化方法的优化目标为：其中，ρ是超参数，是ρ所限定的参数...

【专利技术属性】
技术研发人员：叶炜，泮恒拓，王教瑜，邱海萍，谢德锦，毛雪琴，徐正国，
申请(专利权)人：浙江省农业科学院，
类型：发明
国别省市：