一种基于知识蒸馏的劳保物品检测模型的训练方法技术

技术编号:39954561 阅读:23 留言:0更新日期:2024-01-08 23:34
本发明专利技术属于计算机视觉技术领域,特别涉及一种基于知识蒸馏的劳保物品检测模型的训练方法,包括利用第一检测物品数据集对作为教师模型的检测网络进行训练;根据第二检测物品数据集中在第一检测物品数据集没出现过类型的数量增加学生模型中神经元的数量,并利用完成训练的教师模型对学生模型进行初始化,对新增的神经元进行随机初始化;构建学生模型与教师模型之间的蒸馏损失函数;基于构建的蒸馏损失函数建立学生模型的损失函数,并利用第二检测物品数据集对学生模型进行训练;本发明专利技术克服传统深度学习算法在新样本上训练之后会产生灾难性遗忘的问题,构建了一个可以连续学习的目标检测器。

【技术实现步骤摘要】

本专利技术属于计算机视觉,特别涉及一种基于知识蒸馏的劳保物品检测模型的训练方法


技术介绍

1、佩戴劳保物品是基础设施建设工程中保护人员安全最基本的措施,对劳保物品佩戴与否的检测机制是对工作人员的一道安全防线,提升目标检测算法的实用性对工地智能化系统意义重大。同样地,开展劳保物品目标检测研究是提升安全监管能力的关键。近年来,得益于深度学习理论的不断发展和大规模目标捡测数据集的出现,目标检测相关研究取得了突破性进展。

2、在研究目标检测算法时,研究人员通常都会假设训练集和测试集是独立同分布的,即所有的图像数据都采集于同一分布并且相互独立。当训练集和测试集来源于同一数据集时,这样的假设通常会成立。然而,由于施工场景的特殊性,实际施工场景的数据的往往比较缺乏,并且随着施工进度不断推进,施工场景也在不断发生变化。因此,在实际工地作业场景的数据采集过程中,数据往往是以多批次、小批量形式不断增加。当目标类型发生变化时,对于训练集中未出现的目标无法准确识别。

3、当目标类型变换时,需要对模型进行重新训练。在没有知识蒸馏的情况下,只用含有新的数据样本文档来自技高网...

【技术保护点】

1.一种基于知识蒸馏的劳保物品检测模型的训练方法,其特征在于,构建作为教师模型的检测网络和作为学生模型的检测网络,进行训练的过程包括以下步骤:

2.根据权利要求1所述的一种基于知识蒸馏的劳保物品检测模型的训练方法,其特征在于,建学生模型与教师模型之间的蒸馏损失函数包括:

3.根据权利要求1所述的一种基于知识蒸馏的劳保物品检测模型的训练方法,其特征在于,利用第二检测物品数据集对学生模型进行训练时采用的损失函数表示为:

4.根据权利要求3所述的一种基于知识蒸馏的劳保物品检测模型的训练方法,其特征在于,学生模型与教师模型主干特征提取网络最后一层输出之间的损失...

【技术特征摘要】

1.一种基于知识蒸馏的劳保物品检测模型的训练方法,其特征在于,构建作为教师模型的检测网络和作为学生模型的检测网络,进行训练的过程包括以下步骤:

2.根据权利要求1所述的一种基于知识蒸馏的劳保物品检测模型的训练方法,其特征在于,建学生模型与教师模型之间的蒸馏损失函数包括:

3.根据权利要求1所述的一种基于知识蒸馏的劳保物品检测模型的训练方法,其特征在于,利用第二检测物品数据集对学生模型进行训练时采用的损失函数表示为:

4.根据权利要求3所述的一种基于知识蒸馏的劳保物品检测模型的训练方法,其特征在于,学生模型与教师模型主干特征提取网络最后一层输出之间的损失函数表示为:

5.根据权利要求3所述的一种基于知识蒸馏的劳保物品检测模型的训练方法,其特征在于,学生模型与教师模型最后一层...

【专利技术属性】
技术研发人员:杜良奥方阳谢百连邓欣孙开伟
申请(专利权)人:重庆邮电大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1