System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于多尺度注意力相似化蒸馏的无人机检测方法及装置制造方法及图纸_技高网
当前位置: 首页 > 专利查询>华侨大学专利>正文

基于多尺度注意力相似化蒸馏的无人机检测方法及装置制造方法及图纸

技术编号:40004482 阅读:13 留言:0更新日期:2024-01-09 04:37
本发明专利技术公开了一种基于多尺度注意力相似化蒸馏的无人机检测方法及装置,涉及目标检测领域,包括:构建多尺度注意力图生成模块、教师网络及待训练的学生网络,通过多尺度注意力图生成模块分别将教师网络和学生网络的中间层特征映射转换为教师空间注意力信息和学生空间注意力信息,并建立注意力信息相似度优化损失函数,将注意力信息相似度优化损失函数与全局性的后验概率蒸馏函数以及学生网络的无人机目标分类损失函数和目标框回归损失函数结合以建立总损失函数,基于总损失函数对待训练的学生网络进行训练,得到经训练的学生网络;将图像输入经训练的学生网络,得到无人机检测结果,解决现有技术无人机检测准确率低、实时性差的问题。

【技术实现步骤摘要】

本专利技术涉及目标检测领域,具体涉及一种基于多尺度注意力相似化蒸馏的无人机检测方法及装置


技术介绍

1、随着现代科技的迅速发展,无人机以轻巧灵活、智能高效等优点,被广泛应用在摄影电影、现代农业乃至军事等领域。但是,对无人机的不当使用也会带来严重的安全隐患。传统对无人机的检测方法主要分为雷达和无线电频谱检测两种。雷达由于受到环境条件、杂波等因素的影响,精度较低,易将鸟类等小型物体误判为无人机。无线电频谱检测易受到外界或人为的频率干扰,难以准确地进行无人机检测。

2、有鉴于此,设计一种实时性高、准确度高的无人机检测方法是至关重要的。


技术实现思路

1、针对上述提到的技术问题。本申请的实施例的目的在于提出了一种基于多尺度注意力相似化蒸馏的无人机检测方法及装置,来解决以上
技术介绍
部分提到的技术问题。

2、第一方面,本专利技术提供了一种基于多尺度注意力相似化蒸馏的无人机检测方法,包括以下步骤:

3、获取待检测的图像;

4、构建多尺度注意力图生成模块、教师网络及待训练的学生网络,教师网络和学生网络均采用yolo网络,通过多尺度注意力图生成模块分别将教师网络和学生网络的中间层特征映射转换为教师空间注意力信息和学生空间注意力信息,根据教师空间注意力信息和学生空间注意力信息建立注意力信息相似度优化损失函数,将注意力信息相似度优化损失函数与教师网络和学生网络之间全局性的后验概率蒸馏函数以及学生网络的无人机目标分类损失函数和目标框回归损失函数结合以建立总损失函数,基于总损失函数对待训练的学生网络进行训练,得到经训练的学生网络;

5、将待检测的图像输入经训练的学生网络,得到无人机检测结果。

6、作为优选,多尺度注意力图生成模块包括六个单尺度注意力图生成模块,通过单尺度注意力图生成模块分别将教师网络和学生网络的中间层特征映射转换为对应的教师空间注意力信息和学生空间注意力信息,公式如下:

7、;

8、;

9、其中,分别表示教师网络和学生网络的第个尺度的中间层特征映射,表示样本数量,和分别表示教师网络和学生网络的相应中间层特征映射的通道数,和分别表示相应中间层特征映射的高度和宽度;表示尺度序号;ssag表示单尺度注意力图生成模块;和分别表示教师网络和学生网络的第个尺度的中间层特征映射和通过ssag所生成的第个尺度的教师空间注意力信息和第个尺度的学生空间注意力信息;和分别表示对教师网络和学生网络的第个尺度的中间层特征映射和沿通道方向进行积累;reshape表示特征张量重排操作,将和变为维度是的空间注意力信息;表示对reshape所得的空间注意力信息在对应维度上进行l2归一化。

10、作为优选,教师网络中间层特征映射包括第一尺度教师特征映射、第二尺度教师特征映射和第三尺度教师特征映射,学生网络的中间层特征映射包括第一尺度学生特征映射、第二尺度学生特征映射和第三尺度学生特征映射;第三尺度教师特征映射和第三尺度学生特征映射分别为教师网络的特征金字塔所输出的第三尺度特征图和学生网络的特征金字塔所输出的第三尺度特征图;第二尺度教师特征映射是由第三尺度教师特征映射先经上采样到与教师网络的特征金字塔所输出的第二尺度特征图相同尺寸后,再将相应的上采样特征映射和串联后输入融合模块得到;第二尺度学生特征映射是由第三尺度学生特征映射先经上采样到与学生网络的特征金字塔所输出的第二尺度特征图相同尺寸后,再将相应的上采样特征映射和串联后输入融合模块得到;第一尺度教师特征映射是由第二尺度教师特征映射先经上采样到与教师网络的特征金字塔所输出的第一尺度特征图相同尺寸后,再将相应的上采样特征映射和串联后输入融合模块得到;第一尺度学生特征映射是由第二尺度学生特征映射先经上采样到与学生网络的特征金字塔所输出的第一尺度特征图相同尺寸后,再将相应的上采样特征映射和串联后输入融合模块得到。

11、作为优选,的计算过程如下:

12、;

13、;

14、其中,分别表示教师网络和学生网络的第个尺度的中间层特征映射的第个通道的特征映射。

15、作为优选,注意力信息相似度优化损失函数如下:

16、;

17、其中,表示注意力信息相似度优化损失函数;lg表示以10为底的对数运算;表示以自然常数e为底的指数函数运算;表示尺度序号;,和分别表示教师网络和学生网络的第个尺度的中间层特征映射和通过ssag所生成的第个尺度的教师空间注意力信息和第个尺度的学生空间注意力信息,t为转置运算。

18、作为优选,总损失函数的公式如下:

19、;

20、其中,表示注意力信息相似度优化损失函数;表示教师网络和学生网络之间全局性的后验概率蒸馏函数;表示学生网络的无人机目标分类损失函数,无人机目标分类损失函数采用二元交叉熵函数;表示学生网络的目标框回归损失函数,目标框回归损失函数采用交并比函数。

21、作为优选,后验概率蒸馏函数采用kl散度,公式如下:

22、;

23、其中,分别表示教师网络和学生网络的预测logit值;分别表示教师网络和学生网络预测输入样本属于第个类别的后验概率;表示类别数量;是温度超参数,用于软化后验概率分布;的计算公式如下:

24、;

25、;

26、其中,表示以自然常数e为底的指数函数运算,o表示第o个类别。

27、第二方面,本专利技术提供了一种基于多尺度注意力相似化蒸馏的无人机检测装置,包括:

28、图像获取模块,被配置为获取待检测的图像;

29、蒸馏模块,被配置为构建多尺度注意力图生成模块、教师网络及待训练的学生网络,教师网络和学生网络均采用yolo网络,通过多尺度注意力图生成模块分别将教师网络和学生网络的中间层特征映射转换为教师空间注意力信息和学生空间注意力信息,根据教师空间注意力信息和学生空间注意力信息建立注意力信息相似度优化损失函数,将注意力信息相似度优化损失函数与教师网络和学生网络之间全局性的后验概率蒸馏函数以及学生网络的无人机目标分类损失函数和目标框回归损失函数结合以建立总损失函数,基于总损失函数对待训练的学生网络进行训练,得到经训练的学生网络;

30、执行模块,被配置为将待检测的图像输入经训练的学生网络,得到无人机检测结果。

31、第三方面,本专利技术提供了一种电子设备,包括一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。

32、第四方面,本专利技术提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

33、相比于现有技术,本专利技术具有以下有益效果:

34、(1)本专利技术提出的基于多尺度注意力相似化蒸馏的无人机检测方法将yolo网络引入无人本文档来自技高网...

【技术保护点】

1.一种基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,所述多尺度注意力图生成模块包括六个单尺度注意力图生成模块,通过所述单尺度注意力图生成模块分别将所述教师网络和学生网络的中间层特征映射转换为对应的教师空间注意力信息和学生空间注意力信息,公式如下:

3.根据权利要求2所述的基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,所述教师网络的中间层特征映射包括第一尺度教师特征映射、第二尺度教师特征映射和第三尺度教师特征映射;所述学生网络的中间层特征映射包括第一尺度学生特征映射、第二尺度学生特征映射和第三尺度学生特征映射;所述第三尺度教师特征映射和所述第三尺度学生特征映射分别为所述教师网络的特征金字塔所输出的第三尺度特征图和所述学生网络的特征金字塔所输出的第三尺度特征图;所述第二尺度教师特征映射是由所述第三尺度教师特征映射先经上采样到与所述教师网络的特征金字塔所输出的第二尺度特征图相同尺寸后,再将相应的上采样特征映射和串联后输入融合模块得到;所述第二尺度学生特征映射是由所述第三尺度学生特征映射先经上采样到与所述学生网络的特征金字塔所输出的第二尺度特征图相同尺寸后,再将相应的上采样特征映射和串联后输入融合模块得到;所述第一尺度教师特征映射是由所述第二尺度教师特征映射先经上采样到与所述教师网络的特征金字塔所输出的第一尺度特征图相同尺寸后,再将相应的上采样特征映射和串联后输入融合模块得到;所述第一尺度学生特征映射是由所述第二尺度学生特征映射先经上采样到与所述学生网络的特征金字塔所输出的第一尺度特征图相同尺寸后,再将相应的上采样特征映射和串联后输入融合模块得到。

4.根据权利要求2所述的基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,所述和的计算过程如下:

5.根据权利要求2所述的基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,所述注意力信息相似度优化损失函数如下:

6.根据权利要求5所述的基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,所述总损失函数的公式如下:

7.根据权利要求6所述的基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,所述后验概率蒸馏函数采用KL散度,公式如下:

8.一种基于多尺度注意力相似化蒸馏的无人机检测装置,其特征在于,包括:

9.一种电子设备,包括:

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的方法。

...

【技术特征摘要】

1.一种基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,所述多尺度注意力图生成模块包括六个单尺度注意力图生成模块,通过所述单尺度注意力图生成模块分别将所述教师网络和学生网络的中间层特征映射转换为对应的教师空间注意力信息和学生空间注意力信息,公式如下:

3.根据权利要求2所述的基于多尺度注意力相似化蒸馏的无人机检测方法,其特征在于,所述教师网络的中间层特征映射包括第一尺度教师特征映射、第二尺度教师特征映射和第三尺度教师特征映射;所述学生网络的中间层特征映射包括第一尺度学生特征映射、第二尺度学生特征映射和第三尺度学生特征映射;所述第三尺度教师特征映射和所述第三尺度学生特征映射分别为所述教师网络的特征金字塔所输出的第三尺度特征图和所述学生网络的特征金字塔所输出的第三尺度特征图;所述第二尺度教师特征映射是由所述第三尺度教师特征映射先经上采样到与所述教师网络的特征金字塔所输出的第二尺度特征图相同尺寸后,再将相应的上采样特征映射和串联后输入融合模块得到;所述第二尺度学生特征映射是由所述第三尺度学生特征映射先经上采样到与所述学生网络的特征金字塔所输出的第二尺度特征图相同尺寸后,再将相应的上采样特征映射和串...

【专利技术属性】
技术研发人员:詹思敏黄诚惕朱建清苏嘉骏赵倩倩曾焕强陈婧蔡灿辉
申请(专利权)人:华侨大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1