【技术实现步骤摘要】
一种适于多任务迭代学习记忆的遥感图像分类方法
本专利技术涉及遥感图像处理与识别
,尤其涉及一种适于多任务迭代学习记忆的遥感图像分类方法。
技术介绍
在当前大数据和人工智能快速发展的时代,在面临不断更新迭代的海量数据时,深度学习模型也需要不断的进行学习和更新,不断的调整模型以满足当前人们的需求。然而,现有的深度学习模型一旦在特定的任务上训练完成后,该模型就只能用于该项任务的预测,一旦模型继续学习新的任务,就会在之前已经学习过的任务上出现灾难性遗忘的现象,即模型无法保持在旧任务上的性能。而每次都将所有的数据混合在一起重新对模型进行训练的方式不仅浪费了存储空间,而且也将消耗大量的时间来训练模型,大大降低了深度学习算法的实用化和商业化的可能性。因此,灾难性遗忘问题严重影响了深度学习模型在持续学习多个任务时的性能。为了减轻深度学习模型中存在的灾难性遗忘问题,过去的一些研究主要可以分为三大类:1)基于正则化的连续学习方法;2)基于结构化的连续学习方法;3)基于预排练的连续学习方法。其中,基于正则化的连续学习方法包括弹性权重 ...
【技术保护点】
1.一种适于多任务迭代学习记忆的遥感图像分类方法,其特征在于,包括以下步骤:/n步骤1,初始化模型分类器之前的参数
【技术特征摘要】
1.一种适于多任务迭代学习记忆的遥感图像分类方法,其特征在于,包括以下步骤:
步骤1,初始化模型分类器之前的参数、分类器的固定权重以及分类器的临时权重,使用随机梯度下降训练第一个任务,学习得到和,将分类器的临时权重赋值给固定权重,利用和预测性能;
步骤2,利用第一个任务的训练数据计算模型中每个参数的敏感性,得到参数的敏感性矩阵;
步骤3,当模型学习新的任务时,将参数的敏感性矩阵作为一个正则项添加到模型原有的损失函数中,然后使用修改后的损失函数对模型进行训练,学习得到分类器之前的参数;
步骤4,在分类器中拓展新的神经元用于学习新任务中的新的类,重新初始化分类器的临时权重,使用随机梯度下降训练模型,学习得到分类器的临时权重,将分类器的临时权重赋值给固定权重,利用和预测性能;
步骤5,利用新任务的训练数据计算模型中每个参数的敏感性矩阵,将当前任务的敏感性矩阵与之前任务的敏感性矩阵进行累加并取均值,作为下一个任务训练的损失函数中添加的参数的敏感性矩阵;
步骤6,每当进来一个新任务对其进行训练时,重复步骤3、步骤4和步骤5即可;
步骤7,使用训练好的模型分类器对遥感图像进行分类。
2.根据权利要求1所述的遥感图像分类方法,其特征在于,步骤1中所述的将分类器的临时权重赋值给固定权重,包括以下步骤:
对于任务中的每个类j,按照下列公式将分类器的临时权重赋值给固定权重:
其中,为临时权重的所有类的均值。
3.根据权利要求1或2所述的遥感图像分类方法,其特征在于,步骤2中所述的计算模型中每个参数的敏感性,得到参数的敏感性矩阵,包括以下步骤:
对于给定的样本,模型的输出记为,其中为模型的参数,将参数的微小改变量对模型最终的输出的改变进行二阶泰勒展开:
其中,为输出函数在样本上对参数的梯度,H为Hessian矩阵,代...
【专利技术属性】
技术研发人员:彭剑,李海峰,黄浩哲,陈力,崔振琦,
申请(专利权)人:中南大学,
类型:发明
国别省市:湖南;43
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。