一种多源非均衡域自适应方法技术

技术编号:28560498 阅读:30 留言:0更新日期:2021-05-25 17:55
本发明专利技术公开了一种多源非均衡域自适应方法,具体包括如下步骤:步骤1,对各个源域的图像数据进行预处理;步骤2,计算源域数据和目标域数据之间的Wasserstein距离;步骤3:构建多源域自适应网络,确定多源域自适应过程中各源域自适应损失权重λ

【技术实现步骤摘要】
一种多源非均衡域自适应方法
本专利技术属于多源域深度迁移学习中的域自适应
,涉及一种多源非均衡域自适应方法。
技术介绍
目前,深度学习算法成功的主要因素在于其拥有大量的有标注的数据样本,同时深度学习要求其训练数据集和测试数据集必须满足来自同一分布的假设前提。迁移学习可以从其他领域的标注信息去学习知识,降低了深度学习中测试数据与训练数据同分布的要求,有效地在相似的领域或任务之间进行信息的共享和迁移。研究者将迁移学习的方法引入到深度学习当中,提出了深度迁移学习算法,弥补了深度学习算法的不足,同时利用深度学习的优点来学习迁移学习中的域不变特征,取得了比传统迁移学习更好的分类识别能力。因此,深度迁移学习成为了当前的研究热点。当前,深度迁移学习算法已经取得了巨大成功,研究者大多数都是在研究单个源域到目标域的学习,即单源域深度迁移学习。然而在实际生活中,源域数据通常是通过各种渠道获得的,不同渠道得到的源域数据与目标域数据在数据分布上相似但是相似程度不同,而且不同渠道得到的源域数据在数据分布上也会存在差异。单源域深度迁移学习算法在解决这种实际情本文档来自技高网...

【技术保护点】
1.一种多源非均衡域自适应方法,其特征在于:具体包括如下步骤:/n步骤1,对各个源域的图像数据进行预处理;/n步骤2,将经步骤1处理的各个源域的图像数据分别与目标域数据放进预训练好的单源域自适应网络中做前向传播,通过网络迭代,计算源域数据和目标域数据之间的Wasserstein距离;/n步骤3:构建基于Wasserstein度量准则的多源域自适应网络,将经步骤1处理的源域数据输入到该多源域自适应网络中,确定多源域自适应过程中各源域自适应损失权重λ

【技术特征摘要】
1.一种多源非均衡域自适应方法,其特征在于:具体包括如下步骤:
步骤1,对各个源域的图像数据进行预处理;
步骤2,将经步骤1处理的各个源域的图像数据分别与目标域数据放进预训练好的单源域自适应网络中做前向传播,通过网络迭代,计算源域数据和目标域数据之间的Wasserstein距离;
步骤3:构建基于Wasserstein度量准则的多源域自适应网络,将经步骤1处理的源域数据输入到该多源域自适应网络中,确定多源域自适应过程中各源域自适应损失权重λi;
步骤4:在步骤3的基础上,构建基于Wasserstein度量准则的多源非均衡域自适应网络框架,再次将经步骤1处理的源域数据输入到网络中,确定各源域整体在多源域自适应过程的非平衡因子;
步骤5:在多源域自适应过程中为各源域整体加入动态调节因子,对步骤4构建的多源非均衡域自适应网络进行训练,当目标域平均识别准确率达到96%时,调节网络参数,再次进行多源非均衡域自适应网络的训练,使目标域数据的平均识别准确率超过96%。


2.根据权利要求1所述的一种多源非均衡域自适应方法,其特征在于:所述步骤1的具体过程为:
将各源域与目标域的图像处理成统一的大小,并将各源域图像进行归一化处理。


3.根据权利要求2所述的一种多源非均衡域自适应方法,其特征在于:所述步骤2的具体过程为:
步骤2.1,固定AlexNet网络的第7层全连接层,在第7层全连接层后加入领域判别器;
步骤2.2,设置网络的损失函数为:
Losstotal=Lclf+λ(Lwd-βLgrad)(1);
公式(1)中,Lclf为源域数据的分类损失项,Lwd表示Wassertein距离,将Lwd设置为领域判别损失项,Lgrad表示领域判别器参数的梯度惩罚项,λ,β为超参数;
Lclf定义为:




表示源域样本真实的概率分布;
yi的定义为:



yi表示深度网络将源域样本估计为第i个类别的概率值;表示源域数据通过神经元计算得到其属于第i类的数值,表示源域数据通过神经元计算得到其属于各个类的数值,表示将所有的相加所得的数值:
Lwd表达式为:



公式(4)中,xs和xt分别表示各源域与目标域的数据,ns和nt分别表示各源域与目标域数据的总量,fg为网络前五层卷积层作为特征提取器的函数,fw为领域判别器的学习函数;
Lgrad的表达式为:



公式(5)中,fw(h)为领域判别器学习的一个函数,fw(h)表示将特征提取器fg计算得到的数据特征h转化为一个具体的数字,表示h梯度,h表示利用特征提取器fg计算得到的数据特征;
步骤2.3,将各源域数据分别与目标域数据输入到单源域自适应网络中做前向传播,通过网络迭代,最大化Lwd-βLgrad来训练领域判别器,最小化网络损失函数,当步骤2.2中的网络损失函数拟合时,利用Lwd评估各源域与目标域特征分布之间的Wasserstein距离。


4.根据权利要求3所述的一种多源非均衡域自适应方法,其特征在于:所述步骤3的具体过程为:
步骤3.1,构建基于Wasserstein度量准则的多源域自适...

【专利技术属性】
技术研发人员:刘龙惠朝晖罗彬黄西平
申请(专利权)人:西安理工大学
类型:发明
国别省市:陕西;61

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1