基于迁移学习的最小二乘多分类方法、装置和存储介质制造方法及图纸

技术编号:23605549 阅读:50 留言:0更新日期:2020-03-28 06:25
本发明专利技术公开了基于迁移学习的最小二乘多分类方法、装置和存储介质。该方法包括:采用源领域的标记样本对最小二乘多分类模型进行训练,获取源领域参数;根据所述源领域参数,采用正则化逼近迁移权重项的方法,在所述最小二乘多分类模型的基础上构建迁移的最小二乘多分类模型;采用所述目标领域的标记样本对所述迁移的最小二乘多分类模型进行训练,获得目标领域参数;根据所述目标领域参数获得所述目标领域分类的决策函数;根据所述决策函数对所述目标领域的目标进行分类。通过上述方式,本发明专利技术能够利用源领域的先验知识,在目标领域仅有少量的标记样本的情况下,达到对目标领域的样本进行有效的分类,减少了大量的人力物力。

Least square multi classification method, device and storage medium based on Transfer Learning

【技术实现步骤摘要】
基于迁移学习的最小二乘多分类方法、装置和存储介质
本申请涉及机器学习领域,特别是涉及基于迁移学习的最小二乘多分类方法、装置和存储介质。
技术介绍
在现实中有很多常见的任务存在无法获取足够标注样本的问题,其不仅合理且符合人们期望。比如,在行人属性识别中,行人是否有雨披的属性数据样本是非常难获得,此时若以传统的机器学习方法来训练获得识别模型,对于此属性的识别效果将会较差。因此,如何在小样本的基础上来进行多分类,以此获得准确的分类结果是本申请所要达到的目的。论文《Leastsquarestwinmulti-classclassificationsupportvectormachine》提供了一种多分类模型,是基于传统机器学习方法进行学习和分类,但是在数据信息匮乏的任务中,获得带标签的数据代价大,难度大。而在实际应用中,训练样本越多得到的模型泛化性能会更优,即使数据中有噪声或者其他问题时也会表现出良好的识别效果。而此传统方法无法解决此问题,因此本提案要解决的问题就是某些场景下数据样本少,且标注成本高,而又需要获得良好性能的模型去实际应用。因此,引入迁移本文档来自技高网...

【技术保护点】
1.一种基于迁移学习的最小二乘多分类方法,其特征在于,所述方法包括以下步骤:/n采用源领域的标记样本对最小二乘多分类模型进行训练,获取源领域参数,所述源领域参数包括源超平面参数,所述源超平面参数与用于划分所述源领域类别的超平面对应;/n根据所述源领域参数,采用正则化逼近迁移权重项的方法,在所述最小二乘多分类模型的基础上构建迁移的最小二乘多分类模型;/n采用目标领域的标记样本对所述迁移的最小二乘多分类模型进行训练,获得目标领域参数,所述目标领域参数包括目标超平面参数,所述目标超平面参数与用于划分所述目标领域类别的超平面对应;/n根据所述目标领域参数获得所述目标领域分类的决策函数;/n根据所述决策...

【技术特征摘要】
1.一种基于迁移学习的最小二乘多分类方法,其特征在于,所述方法包括以下步骤:
采用源领域的标记样本对最小二乘多分类模型进行训练,获取源领域参数,所述源领域参数包括源超平面参数,所述源超平面参数与用于划分所述源领域类别的超平面对应;
根据所述源领域参数,采用正则化逼近迁移权重项的方法,在所述最小二乘多分类模型的基础上构建迁移的最小二乘多分类模型;
采用目标领域的标记样本对所述迁移的最小二乘多分类模型进行训练,获得目标领域参数,所述目标领域参数包括目标超平面参数,所述目标超平面参数与用于划分所述目标领域类别的超平面对应;
根据所述目标领域参数获得所述目标领域分类的决策函数;
根据所述决策函数对所述目标领域的目标进行分类。


2.根据权利要求1所述方法,其特征在于,所述决策函数的决策方式为“1-vs-1-vs-1”分类结构。


3.根据权利要求1或2所述方法,其特征在于,所述根据所述源领域参数,采用正则化逼近迁移权重项的方法,在所述最小二乘多分类模型的基础上构建迁移的最小二乘多分类模型之前,包括:
对所述目标领域和所述源领域进行相似性分析,若所述目标领域与所述源领域相似性高于第一预设阈值时,则所述目标领域和所述源领域具有相似性,所述源领域参数用于所述目标领域的迁移学习。


4.根据权利要求3所述方法,其特征在于,所述相似度分析采用KL散度法或布雷格曼散度法或最大均值化差异法。


5.根据权利要求1所述方法,其特征在于,所述根据所述源领域参数,采用正则化逼近迁移权重项的方法,在所述最小二乘多分类模型的基础上构建迁移的最小二乘多分类模型,包括:
根据所述源领域参数获得所述迁移的最小二乘多分类模型的所述迁移权重项;
在所述迁移权重项的基础上增加L2正则项以获得所述迁移的最小二乘多分类模型。


6.根据权利要求1所述方法,其特征在于,所述根据所述决策函数对所述目标领域的目标...

【专利技术属性】
技术研发人员:李禹苏慧唐邦杰潘华东殷俊张兴明
申请(专利权)人:浙江大华技术股份有限公司
类型:发明
国别省市:浙江;33

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1