面向无人机目标识别在线学习的训练参数自适应优化方法技术

本发明专利技术公开了一种面向无人机目标识别在线学习的训练参数自适应优化方法，包括：采用无人机实际拍摄的图像作为后续的在线学习样本，对无人机目标识别模型进行持续训练；在持续训练过程中，根据设定的批数量对在线学习样本进行划分，采用划分后的批样本对无人机目标识别模型进行迭代训练；根据每次迭代后的得到的计算时间和损失值，计算得到无人机目标识别模型的收敛速度；将计算得到的当前迭代周期的收敛速度与历史最优收敛速度进行比较，根据比较结果，更新最优收敛速度或批数量。本发明专利技术有效提高了鲁棒性和降低了训练时延。效提高了鲁棒性和降低了训练时延。效提高了鲁棒性和降低了训练时延。

【技术实现步骤摘要】
面向无人机目标识别在线学习的训练参数自适应优化方法


[0001]本专利技术涉及无人机目标识别
，具体涉及一种面向无人机目标识别在线学习的训练参数自适应优化方法。

技术介绍

[0002]无人机由于其灵活性、便携性和3D移动性等特点，在民用和军用领域均发挥着重要作用。其中，利用无人机快速移动的灵活性对目标进行跟踪识别是无人机智能化的一个重要用途，能够在抢险救灾、线路巡检等任务中起到至关重要的作用。而为了实现上述应用，使用人工智能技术尤其是深度学习技术是一种不可避免的趋势。
[0003]深度学习是机器学习领域中一个研究方向，其目的在于使机器能够像人一样具有分析学习能力，可以识别文字，图像和声音等数据。区别于浅层学习，深度学习的模型结构层次更多，同时加强了特征学习的能力。将深度学习使用至无人机，可以有效利用无人机的机动性和灵活性，为深度学习提供大量的学习样本。并且这些样本由于无人机的三维机动性，可以来自目标的不同高度和拍摄角度，使训练出的模型准确度和泛用性更高。
[0004]虽然深度学习已经证明了其实现无人机智能化的能力，但传统的深度学习模型仍有以下几点不足：
[0005]1.难以适应多变的环境。由于无人机实际应用的环境与训练样本的环境往往存在差异，使得无人机在离线状态下训练良好的模型，在动态的环境中检测效果并不理想。
[0006]2.训练过程时间成本较大。在线学习能够有效提高模型的准确率，但这需要占用大量的时间进行计算。并且随着样本的增加，单次迭代的训练时间也会相应增加。这对于追求时效性的无人机来说是一致命缺陷，小型无人机的续航也难以支撑训练要求。
[0007]综上所述，两大问题的根本原因在于无人机在目标检测识别的过程中无法实时获得高质量样本并根据自身情况在线调整样本数量和目标检测模型。因此需要面向无人机目标识别在线学习的训练参数自适应优化方法来支持模型的实时优化。
[0008]专利号为CN112732960B的专利技术中公开了一种基于在线联邦学习的图像分类方法，针对机器学习进行图像分类的特性设置批尺寸的选择条件，通过自适应地、逐个地调整每个工作节点的批尺寸大小，有效提高了训练过程中图像数据的利用率，同时有效缓解了批尺寸的波动，进一步提高了训练过程中收敛的稳定性；此外，通过引入与批尺寸成正比的学习率，缓解了批尺寸下降对训练产生的负面影响，进一步提高了训练的收敛速度。该专利技术只是利用本地存储数据集的历史经验来调整批大小，无法满足无人机在动态环境中进行目标检测的需求，其采用的批调整方式也不适用于动态环境下获取的在线学习样本。

技术实现思路

[0009]为了解决现有技术中无人机在目标检测识别时无法兼顾准确率和时效性的技术问题，本专利技术提出了一种面向无人机目标识别在线学习的训练参数自适应优化方法，通过在线学习的过程中根据模型性能以及在线样本数量动态调整批大小来满足无人机在动态
环境中进行目标检测的需求，有效提高了鲁棒性和降低了训练时延；整个训练过程中都具备较高的收敛速度以及较强的鲁棒性，能够在最短的时间实现完成在线学习。另外，本专利技术针对过时的样本设计了识别、抛弃机制，进一步为设备减少了计算资源，使得该算法能够更好地在无人机嵌入式平台上进行部署。
[0010]为实现上述技术目的，本专利技术采取的技术方案为：
[0011]一种面向无人机目标识别在线学习的训练参数自适应优化方法，所述训练参数自适应优化方法包括以下步骤：
[0012]基于神经网络构建无人机目标识别模型，对无人机目标识别模型进行初步训练后，采用无人机实际拍摄的图像作为后续的在线学习样本，对无人机目标识别模型进行持续训练；
[0013]在持续训练过程中，根据设定的批数量对在线学习样本进行划分，采用划分后的批样本对无人机目标识别模型进行迭代训练；根据每次迭代后的得到的计算时间和损失值，计算得到无人机目标识别模型的收敛速度；将计算得到的当前迭代周期的收敛速度与历史最优收敛速度进行比较，根据比较结果，更新最优收敛速度或批数量；
[0014]其中，如果计算得到的收敛速度大于历史最优收敛速度，在下一迭代周期中维持相同的批数量，更新历史最优收敛速度为当前迭代周期的收敛速度；如果计算得到的收敛速度小于历史最优收敛速度，增大批数量以加快下一迭代周期的收敛速度或者减小批数量以减少下一迭代周期的计算时间。
[0015]进一步地，基于Yolov5网络构建得到无人机目标识别模型。
[0016]进一步地，采用若干个Visdrone2021数据集图像作为初始样本对无人机目标识别模型进行初步训练。
[0017]进一步地，根据每次迭代后的得到的计算时间和损失值，计算得到无人机目标识别模型的收敛速度的过程包括以下步骤：
[0018]在每轮模型迭代开始前，重新确定训练数据集D＝(x1，y1)，(x2，y2)，
…
(x
n
，y
n
)，n∈N中在线样本的数量N，其中，x
n
为第n个样本的特征值，y
n
为第n个样本的标签；根据第t次迭代的批数量S
t
将在线样本划分为批，根据训练结果计算第t次迭代的收敛速度θ
t
：
[0019][0020][0021]其中，L
t
表示模型第t次迭代的损失值，B
t
表示第t次迭代的批次数，T
t
表示第t次迭代的计算时间，(x
i，j
，y
i，j
)代表第j批的第i个样本，w
t
(x
i，j
)是模型参数，f(y
i，j
|w
t
(x
i，j
))为其损失函数。
[0022]进一步地，如果计算得到的收敛速度小于历史最优收敛速度，采用下述公式增大批数量以加快下一迭代周期的收敛速度或者减小批数量以减少下一迭代周期的计算时间：
[0023]S
t+1
＝η
t
*S
t
[0024][0025][0026]其中，σ(θ
t
‑1，θ
t
‑2…
θ
t
‑
u
)表示前u次迭代的θ
t
的方差，E(θ
t
‑1，θ
t
‑2…
θ
t
‑
u
)表示前u次迭代的θ
t
的均值，CoV表示基于训练数据集的变异系数，S
t+1
表示第t+1次迭代的批数量，S
t
表示第t次迭代的批数量。
[0027]进一步地，所述历史最优收敛速度的计算公式为：
[0028]θ
*
＝θ
′
*ε；
[0029]式中，θ
′
为实际计算得到的历史迭代周期中的最小收敛速度；ε是延迟本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向无人机目标识别在线学习的训练参数自适应优化方法，其特征在于，所述训练参数自适应优化方法包括以下步骤：基于神经网络构建无人机目标识别模型，对无人机目标识别模型进行初步训练后，采用无人机实际拍摄的图像作为后续的在线学习样本，对无人机目标识别模型进行持续训练；在持续训练过程中，根据设定的批数量对在线学习样本进行划分，采用划分后的批样本对无人机目标识别模型进行迭代训练；根据每次迭代后的得到的计算时间和损失值，计算得到无人机目标识别模型的收敛速度；将计算得到的当前迭代周期的收敛速度与历史最优收敛速度进行比较，根据比较结果，更新最优收敛速度或批数量；其中，如果计算得到的收敛速度大于历史最优收敛速度，在下一迭代周期中维持相同的批数量，更新历史最优收敛速度为当前迭代周期的收敛速度；如果计算得到的收敛速度小于历史最优收敛速度，增大批数量以加快下一迭代周期的收敛速度或者减小批数量以减少下一迭代周期的计算时间。2.根据权利要求1所述的面向无人机目标识别在线学习的训练参数自适应优化方法，其特征在于，基于Yolov5网络构建得到无人机目标识别模型。3.根据权利要求1所述的面向无人机目标识别在线学习的训练参数自适应优化方法，其特征在于，采用若干个Visdrone2021数据集图像作为初始样本对无人机目标识别模型进行初步训练。4.根据权利要求1所述的面向无人机目标识别在线学习的训练参数自适应优化方法，其特征在于，根据每次迭代后的得到的计算时间和损失值，计算得到无人机目标识别模型的收敛速度的过程包括以下步骤：在每轮模型迭代开始前，重新确定训练数据集D＝(x1，y1)，(x2，y2)，
…
(x
n
，y
n
)，n∈N中在线样本的数量N，其中，x
n
为第n个样本的特征值，y
n
为第n个样本的标签；根据第t次迭代的批数量S
t
将在线样本划分为批，根据训练结果计算第t次迭代的收敛速度θ
t
：：其中，L
t
表示模型第t次迭代的损失值，B
t
表示第t次迭代的批次数，T
t
表示第t次迭代的计算时间，(x
i，j
，y
i，j
)代表第j批的第i个样本，w
t
(x
i，j
)是模型参数，f(y

【专利技术属性】
技术研发人员：赵卓玥，张卉瑾，高泽凯，王思逸，牛文锴，董超，屈毓锛，吴飞宇，
申请(专利权)人：南京航空航天大学，
类型：发明
国别省市：