【技术实现步骤摘要】
基于多尺度池化金字塔的HRNet自蒸馏目标分割方法
[0001]本专利技术属于计算机视觉及机器学习
,特别是一种基于多尺度池化金字塔的HRNet自蒸馏目标分割方法。
技术介绍
[0002]知识蒸馏能将大规模网络的表征能力迁移到小规模网络,提升轻量型网络的分类、回归性能,主要用于深度神经网络的轻量化处理。
[0003]目前,已有许多科研机构从事知识蒸馏方法研究,如Zhang等人(Zhang L.,et al.Be Your Own Teacher:Improve the Performance of Convolutional Neural Networks via Self Distillation[C].IEEE International Conference on Computer Vision,2019)提取残差网络不同层特征,将深层特征作为蒸馏教师端、将浅层特征作为学生端,构建自蒸馏学习结构,结合Softmax和交叉墒损失进行蒸馏学习,提升残差网络的图像分类性能。Yang等人(Yang C.,et a ...
【技术保护点】
【技术特征摘要】
1.一种基于多尺度池化金字塔的HRNet自蒸馏目标分割方法,其特征在于,包括:步骤1、将多尺度池化金字塔模块分别与HRNet的分支特征、输出特征级联,获得4组分支蒸馏特征和1组输出端蒸馏特征;步骤2、构建自蒸馏学习结构,所述自蒸馏学习结构包含分支一致性蒸馏学习结构和自下而上蒸馏学习结构;步骤3、将HRNet的原始分割网络作为基准模型,在基准模型上构建自蒸馏学习结构,融合KL散度、交叉墒损失、结构化相似性损失构成自蒸馏学习损失函数进行模型训练,采用训练好的模型获得图像目标分割结果。2.根据权利要求1所述的基于多尺度池化金字塔的HRNet自蒸馏目标分割方法,其特征在于,步骤1所述将多尺度池化金字塔模块分别与HRNet的分支特征、输出特征级联,获得4组分支蒸馏特征和1组输出端蒸馏特征,具体如下:(1)对于一个分支蒸馏特征,网络结构包括顺次设置的卷积层Subconv、多尺度池化金字塔模块PSPModule、卷积层Score、Sub softmax层,所述卷积层Subconv的四个参数分别为卷积核宽、卷积核高、输入通道数、输出通道数,多尺度池化金字塔模块PSPModule1的两个参数分别为输入通道数、输出通道数;(2)对于输出端蒸馏特征,网络结构包括顺次设置的级联层Concat、多尺度池化金字塔模块PSPModule、卷积层Score、Sub softmax层。3.根据权利要求2所述的基于多尺度池化金字塔的HRNet自蒸馏目标分割方法,其特征在于,所述多尺度池化金字塔模块PSPModule,具体如下:设定输入特征InFeat大小为h
×
w
×
n,h表示高、w表示宽、n表示通道数,多尺度池化金字塔模块PSPModule的具体结构为:输入特征InFeat
→
并行四路池化特征提取层
→
级联层
→
卷积层
→
输出特征OutFeat;其中,输出特征OutFeat大小为h
×
w
×
n;四路池化特征提取层结构中的第一路结构为:池化层1
×1→
卷积层1
×1×
n
×
n
→
归一化层
→
双线性插值层h
×
w
×
n
→
池化特征;四路池化特征提取层区别在于池化层的参数不同,其他三路的池化层参数分别为2
×
2、3
×
3、6
×
6。4.根据权利要求1所述的基于多尺度池...
【专利技术属性】
技术研发人员:郑云飞,曹铁勇,杨吉斌,张雄伟,王晓兵,方正,孙蒙,赵斐,李莉,邓小桐,王杨,邢立新,李臣明,陶海军,陈卫国,于远鹏,高波,章乐贵,王勇,邢浩,赖远明,
申请(专利权)人:中国人民解放军陆军炮兵防空兵学院,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。