【技术实现步骤摘要】
持续学习方法、装置、终端及存储介质
本申请属于人工智能
,尤其涉及一种持续学习方法、装置、终端及存储介质。
技术介绍
人类在学习的过程中能够将已学习到的知识用到新的学习任务上,并且在学习新任务时也不会忘记已经学习过的旧任务,在机器学习中这个过程被称为持续学习。当前神经网络在持续学习新知识尤其是学习新的复杂样本时,如果不重复学习已经学习过的旧知识,就会出现对旧知识的急剧遗忘现象,这种现象被称为神经网络的灾难性遗忘。灾难性遗忘现象使得神经网络需要学习连续的多个复杂样本任务时,在学习后续任务时会使先前学到的模型的性能急剧下降,严重影响深度神经网络的持续学习效果。
技术实现思路
本申请实施例提供了一种持续学习方法、装置、终端及存储介质,以解决现有技术中灾难性遗忘现象使得神经网络需要学习连续的多个任务时,在学习后续任务时会使先前学到的模型的性能急剧下降,严重影响深度神经网络的持续学习效果的问题。本申请实施例的第一方面提供了一种持续学习方法,包括:获取包含N类数据样本的数据集;基 ...
【技术保护点】
1.一种持续学习方法,其特征在于,包括:/n获取包含N类数据样本的数据集;/n基于持续学习任务对所述数据集包含的所述N类数据样本进行组别划分,得到M个子数据集,N大于M,N、M均为正整数;/n计算所述M个子数据集间的特征相似度,并基于所述特征相似度对所述M个子数据集进行排序,得到目标集合排列顺序;/n按照所述集合排列顺序,依次将所述M个子数据集输入至持续学习模型执行所述持续学习任务。/n
【技术特征摘要】 【专利技术属性】
1.一种持续学习方法,其特征在于,包括:
获取包含N类数据样本的数据集;
基于持续学习任务对所述数据集包含的所述N类数据样本进行组别划分,得到M个子数据集,N大于M,N、M均为正整数;
计算所述M个子数据集间的特征相似度,并基于所述特征相似度对所述M个子数据集进行排序,得到目标集合排列顺序;
按照所述集合排列顺序,依次将所述M个子数据集输入至持续学习模型执行所述持续学习任务。
2.根据权利要求1所述的持续学习方法,其特征在于,所述计算所述M个子数据集间的特征相似度,并基于所述特征相似度对所述M个子数据集进行排序,得到目标集合排列顺序,包括:
获取所述N类数据样本中每个类别数据样本间的特征相似度数值,得到特征相似度矩阵;
按照所述M个子数据集间的不同排列顺序,调整N类数据样本的排列顺序,并依照排列顺序调整后的所述N类数据样本,调整所述特征相似度数值在所述特征相似度矩阵中的元素排列位置;
分别计算在所述特征相似度数值的不同元素排列位置下,所述特征相似度矩阵的性能评估值;
将所述性能评估值中符合设定条件的目标性能评估值对应的所述M个子数据集的排列顺序确定为所述目标集合排列顺序。
3.根据权利要求2所述的持续学习方法,其特征在于,所述获取所述N类数据样本中每个类别数据样本间的特征相似度数值,包括:
通过特征提取网络将所述N类数据样本进行特征提取,分别得到每一类别的数据样本的特征矢量;
基于所述特征矢量,通过如下相似度计算公式,计算所述每个类别数据样本间的特征相似度数值:
其中,dij表示第i个和第j个类别的数据样本间的特征相似度数值,Ni表示第i个类别数据样本的所有特征矢量的数量,Nj表示第j个类别数据样本的所有特征矢量的数量,表示第i个类别的数据样本的第m个特征矢量,表示第j个类别的数据样本的第n个特征矢量;为两个特征矢量间的相似度;其中,m∈{1,2,3,...,Ni}、m∈{1,2,3,...,Nj}。
4.根据权利要求3所述的持续学习方法,其特征在于,所述两个特征矢量间的相似度,通过以下公式计算得到:
技术研发人员:杨赵南,李慧云,
申请(专利权)人:中国科学院深圳先进技术研究院,
类型:发明
国别省市:广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。