基于融合自监督的特征提取器的生成方法及装置制造方法及图纸

本发明专利技术涉及模式识别技术领域，尤其涉及一种基于融合自监督的特征提取器的生成方法及装置，旨在解决现有的特征提取器采用单一的自监督方法，容易引起归纳偏差的问题。该基于融合自监督的特征提取器的生成方法及装置，提出了一种新的自监督学习方法

Generation method and device of feature extractor based on fusion self supervision

【技术实现步骤摘要】
基于融合自监督的特征提取器的生成方法及装置


[0001]本专利技术涉及模式识别
，尤其涉及一种基于融合自监督的特征提取器的生成方法及装置。

技术介绍

[0002]小样本图像分类过程通常包含两个阶段，第一个阶段是使用基类数据训练特征提取器，第二阶段是使用训练好的特征提取器提取新类数据的特征，使用设计的分类器完成分类任务。其中特征提取器的设计作为小样本图像分类系统的一个重要环节，一直以来都是小样本图像分类领域研究的核心问题。但是，现有的特征提取器采用单一的自监督方法，容易引起归纳偏差。

技术实现思路

[0003]本专利技术提供一种基于融合自监督的特征提取器的生成方法及装置，旨在解决现有的特征提取器采用单一的自监督方法，容易引起归纳偏差的问题。
[0004]为了实现上述目的，第一方面，本专利技术提供一种基于融合自监督的特征提取器的生成方法，包括：
[0005]使用resnet
‑
12网络作为特征提取网络，设计基于旋转的自监督特征提取器f
RFE
(
·
)，其中，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于融合自监督的特征提取器的生成方法，其特征在于，所述方法包括：使用resnet
‑
12网络作为特征提取网络，设计基于旋转的自监督特征提取器f
RFE
(
·
)，其中，基于旋转的自监督特征提取器f
RFE
(
·
)的自监督损失函数L
RFE
为：L
RFE
＝L
c
+L
r
其中，L
c
表示标准分类损失；L
r
表示辅助旋转损失；其中，标准分类损失L
c
为：其中，c表示第c类样本；y
(c,x)
表示样本真实标签；p
(c,x)
表示样本的预测标签属于第c类的概率；其中，辅助旋转损失L
r
为：其中，r＝{0
°
,90
°
,180
°
,270
°
}表示以不同角度旋转的样本标签；y
(r,x)
表示真值标签；p
(r,x)
表示样本的预测标签属于第r类的概率。使用resnet
‑
12网络作为特征提取网络，设计基于镜像的自监督特征提取器f
MFE
(
·
)，其中，基于镜像的自监督特征提取器f
MFE
(
·
)的自监督损失函数L
MFE
为：L
MFE
＝L
c
+L
m
其中，L
c
表示标准分类损失；L
m
表示辅助镜像损失；其中，辅助镜像损失L
m
为：其中，m表示m类数据，m＝{水平镜像、垂直镜像、对角镜像}；y
(m,x)
表示真值标签；p
(m,x)
表示样本的预测标签属于第m类的概率。通过多个维度对两个特征提取器(即基于旋转的自监督特征提取器和基于镜像的自监督特征提取器)进行学习，融合得到最终的特征提取器h(
·
)，其中，h(
·
)的训练损失函数(即多维融合损失函数)为：L
MDF
＝αL
FA
+βL
SA
+γL
LA
其中，L
FA
表示特征对齐损失；L
SA
表示语义对齐损失；L
LA
表示标签对齐损失；α、β和γ表示超参数。2.根据权利要求1所述的方法，其特征在于，所述特征对齐损失L
FA
为：L
FA
＝||h(x)
‑
f
RFE
(x)||2+||h(x)
‑
f
MFE
(x)||2其中，h(x)，f
RFE
(x)和f
MFE
(x)分别表示由h(
·
)、f
RFE
(
·
)和f
MFE
(
·
)获得的样本x的特征；||
·
||2表示(
·
)的2范数正则化。3.根据权利要求2所述的方法，其特征在于，所述语义对齐损失L
SA
为：
其中，i表示第i类样本；其中，i表示第i类样本；分别表示f
RFE
(x)，f
MFE
(x)，h(x)在蒸馏温度T下的softmax输出。4.根据权利要求3所述的方法，其特征在于，所述标签对齐损失L
LA
为：其中，i表示第i类样本；y
(i,x)
表示样本真实标签；p
(i,x)
表示样本的预测标签属于第i类的概率。5.一种基于融合自监督的特征提取器的生成装置，其...

【专利技术属性】
技术研发人员：刘宝弟，兴雷，邵帅，刘伟锋，袁新安，李伟，葛新民，
申请(专利权)人：中国石油大学华东，
类型：发明
国别省市：