基于异构迁移学习的特征增强方法、装置及存储介质制造方法及图纸

技术编号:32567045 阅读:57 留言:0更新日期:2022-03-09 16:52
本发明专利技术公开了基于异构迁移学习的特征增强方法、装置及存储介质,方法包括:从多个源域进行第一特征提取,得到第一特征集合;从目标域进行第二特征提取,得到第二特征集合;根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间;其中,所述基于迁移学习的异构特征空间用于进行特征提取。本发明专利技术将原始特征与源域和目标域中提取的特征进行结合,能够在提高迁移学习性能的基础上解决负迁移的问题,可广泛应用于人工智能技术领域。可广泛应用于人工智能技术领域。可广泛应用于人工智能技术领域。

【技术实现步骤摘要】
基于异构迁移学习的特征增强方法、装置及存储介质


[0001]本专利技术涉及人工智能
,尤其是基于异构迁移学习的特征增强方法、装置及存储介质。

技术介绍

[0002]随着中国社会经济的飞速发展,科学技术日新月异。深度学习技术在越来越多的应用场景中发挥着重要的作用。无论是大家所熟悉的面部识别还是近些年比较流行的无人驾驶和比较前沿的基于图片的意图推理等等,这些成果都离不开深度学习技术。比如计算机视觉中的图像识别技术已经超越了人类,越来越多的优秀的算法和模型在逐渐的崭露头角。这些技术的是现实需要依靠比较昂贵的成本,且技术的自适应性比较差。这就导致了训练好的模型只能在单一的任务或者特定的数据集上表现良好。目前需要解决的问题是怎么样将这些已经训练好了的模型或者算法应用到其他领域。这样不仅可以节省计算资源,而且可以减少用户的使用等待时间,这是一项非常必要的且具有很大的价值。
[0003]从相关的
技术介绍
介绍可以得知,目前的迁移学习主要有以下几种:基于样本的迁移学习方法,基于特征的迁移学习方法,基于关系的迁移学习方法以及基于模型的迁移学习方法。基于样本的迁移学习主要是从样本的角度出发,迁移数据之间的特性,从而在目标任务中取得比较好的成果。基于特征的迁移学习方法主要是从样本数据的内在特征出发,将样本特征的共性和差异性表示出来,从而实现更好的泛化性能。基于关系的迁移学习方法更多的是站在整体的角度出发,对于多个数据集之间的关系进行很好的评估,从而找到相似之处。基于模型的迁移学习方法,主要是对于那些已经训练好了的模型,在另外的数据集上的应用已经是达到了比较好的效果,在相似的数据集上只需要进行一定的参数调整即可获得比较好的效果。
[0004]基于增强特征映射的异构迁移学习中仍然面临着负迁移的风险,尤其是在异构域相关程度不高的情况下。
[0005]现有的很多方法包含很多的基于隐空间的特征学习方法,根据给定的源域和目标域观察到的特征表示,提取源域和目标域可迁移的隐变量,这种方法通过将目标域映射到可迁移的隐变量张成的隐空间中,利用这些隐变量对一个或者多个源域的知识进行编码,通过这种方法丰富目标域的特征表示,进而提高各种任务中的性能。但是这种单纯的依赖映射的做法会导致负迁移问题,从而影响最终的结果。

技术实现思路

[0006]有鉴于此,本专利技术实施例提供基于异构迁移学习的特征增强方法、装置及存储介质,以解决负迁移的问题。
[0007]本专利技术的一方面提供了一种基于异构迁移学习的特征增强方法,包括:
[0008]从多个源域进行第一特征提取,得到第一特征集合;
[0009]从目标域进行第二特征提取,得到第二特征集合;
[0010]根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间;
[0011]其中,所述基于迁移学习的异构特征空间用于进行特征提取。
[0012]可选地,所述根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间,包括:
[0013]将所述源域和所述目标域的隐空间映射到一个共享隐空间中,所述共享隐空间中还包括所述原始特征。
[0014]可选地,所述将所述源域和所述目标域的隐空间映射到一个共享隐空间中,包括:
[0015]根据所述共享隐空间,构造第一投影矩阵和第二投影矩阵;
[0016]根据所述第一投影矩阵,将所述源域的原始特征合并到所述源域的第一特征集合中;
[0017]根据所述第二投影矩阵,将所述目标域的原始特征合并到所述目标特征的第二特征集合中。
[0018]可选地,所述将所述源域和所述目标域的隐空间映射到一个共享隐空间中,还包括:
[0019]采取监督或者半监督学习方式进行性能最大化的分类。
[0020]本专利技术实施例的另一方面提供了一种基于异构迁移学习的特征增强装置,包括:
[0021]第一模块,用于从多个源域进行第一特征提取,得到第一特征集合;
[0022]第二模块,用于从目标域进行第二特征提取,得到第二特征集合;
[0023]第三模块,用于根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间;
[0024]其中,所述基于迁移学习的异构特征空间用于进行特征提取。
[0025]可选地,所述第三模块,包括:
[0026]第一单元,用于根据所述共享隐空间,构造第一投影矩阵和第二投影矩阵;
[0027]第二单元,用于根据所述第一投影矩阵,将所述源域的原始特征合并到所述源域的第一特征集合中;
[0028]第三单元,用于根据所述第二投影矩阵,将所述目标域的原始特征合并到所述目标特征的第二特征集合中。
[0029]可选地,所述第三模块,还包括:
[0030]第四单元,用于采取监督或者半监督学习方式进行性能最大化的分类。
[0031]本专利技术实施例的另一方面提供了一种电子设备,包括处理器以及存储器;
[0032]所述存储器用于存储程序;
[0033]所述处理器执行所述程序实现如前面所述的方法。
[0034]本专利技术实施例的另一方面提供了一种计算机可读存储介质,所述存储介质存储有程序,所述程序被处理器执行实现如前面所述的方法。
[0035]本专利技术实施例的另一方面提供了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如前面所述的方法。
[0036]本专利技术的实施例从多个源域进行第一特征提取,得到第一特征集合;从目标域进行第二特征提取,得到第二特征集合;根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间;其中,所述基于迁移学习的异构特征空间用于进行特征提取。本专利技术将原始特征与源域和目标域中提取的特征进行结合,能够在提高迁移学习性能的基础上解决负迁移的问题。
附图说明
[0037]为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0038]图1为本专利技术实施例的整体步骤流程图。
具体实施方式
[0039]为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
[0040]针对现有技术存在的问题,本专利技术实施例提供了一种基于异构迁移学习的特征增强方法,如图1所示,包括:
[0041]从多个本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.基于异构迁移学习的特征增强方法,其特征在于,包括:从多个源域进行第一特征提取,得到第一特征集合;从目标域进行第二特征提取,得到第二特征集合;根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间;其中,所述基于迁移学习的异构特征空间用于进行特征提取。2.根据权利要求1所述的基于异构迁移学习的特征增强方法,其特征在于,所述根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间,包括:将所述源域和所述目标域的隐空间映射到一个共享隐空间中,所述共享隐空间中还包括所述原始特征。3.根据权利要求2所述的基于异构迁移学习的特征增强方法,其特征在于,所述将所述源域和所述目标域的隐空间映射到一个共享隐空间中,包括:根据所述共享隐空间,构造第一投影矩阵和第二投影矩阵;根据所述第一投影矩阵,将所述源域的原始特征合并到所述源域的第一特征集合中;根据所述第二投影矩阵,将所述目标域的原始特征合并到所述目标特征的第二特征集合中。4.根据权利要求3所述的基于异构迁移学习的特征增强方法,其特征在于,所述将所述源域和所述目标域的隐空间映射到一个共享隐空间中,还包括:采取监督或者半监督学习方式进行性能最大化的分类。5.基于异构迁移学习的特征增强装置,其特征在于,包括:第一模块,用于从多个源域进行第一特征提取...

【专利技术属性】
技术研发人员:张忠平王永斌肖益珊季文翀丛煜华郑涛
申请(专利权)人:宜通世纪科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1