一种基于狄利克雷过程的持续元学习方法和装置制造方法及图纸

技术编号:36692951 阅读:21 留言:0更新日期:2023-02-27 20:02
本发明专利技术公开了一种基于狄利克雷过程的持续元学习方法和装置,包括:构建至少1个独立的元知识分布作为初始元知识分布;缓存当前时刻顺序到达的数据,基于初始元知识分布利用狄利克雷过程动态为当前时刻的数据增加新元知识分布的个数,并随机初始化新元知识分布;通过贝叶斯持续学习方法,将前一时刻元知识分布的后验作为当前时刻元知识分布的先验,根据贝叶斯法则在缓存的数据流中进行元知识分布的迭代更新,其中,元知识分布包括初始元知识分布和每时刻增加的新元知识分布;构建更新的元知识分布与目标任务的对应关系,依据对应关系为目标任务的对应模型进行元知识的初始化,然后利用少量带标签数据对模型进行学习,得到能够实现预测的模型。实现预测的模型。实现预测的模型。

【技术实现步骤摘要】
一种基于狄利克雷过程的持续元学习方法和装置


[0001]本专利技术属于元学习
,具体涉及一种基于狄利克雷过程的持续元学习方法和装置。

技术介绍

[0002]元学习是一种用于少样本学习的方法。该类方法主要针对当数据稀少时深度学习无法有效应用的问题。其核心思想是学习如何学习,即学习如何从数据中捕捉数据模式的方法(即元知识)。在后续到来的少样本任务上,能够遵循学习到的捕捉数据模式的方法,在少量样本上快速捕捉到其数据模式从而应用于目标任务上。元学习方法由于其在少样本问题上的强泛化能力、快速适应能力被广泛应用于各个领域,包括推荐系统、用户画像和小分子性质预测等,例如专利文献CN114187472A公开的一种基于模型驱动元学习的乳腺癌分子亚型预测方法,专利文献CN111199458A公开的一种基于元学习与强化学习的推荐系统。
[0003]传统的元学习方法从所有的数据中学习得到一个全局共享的初始化值,并在目标任务进行快速适应。但是该类传统的元学习方法存在两个明显的缺点:第一,假设所有的数据是可用的,但是在实际的应用中,数据是顺序到达的;且由于存本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于狄利克雷过程的持续元学习方法,其特征在于,包括以下步骤:构建至少1个独立的元知识分布作为初始元知识分布;缓存当前时刻顺序到达的数据,基于初始元知识分布利用狄利克雷过程动态为当前时刻的数据增加新元知识分布的个数,并随机初始化新元知识分布;通过贝叶斯持续学习方法,将前一时刻元知识分布的后验作为当前时刻元知识分布的先验,根据贝叶斯法则在缓存的数据流中进行元知识分布的迭代更新,其中,元知识分布包括初始元知识分布和每时刻增加的新元知识分布;构建更新的元知识分布与目标任务的对应关系,依据对应关系为目标任务的对应模型进行元知识的初始化,并在初始化元知识基础上,利用少量带标签数据对模型进行学习,得到能够实现预测的模型。2.根据权利要求1所述的基于狄利克雷过程的持续元学习方法,其特征在于,每个元知识分布代表从少样本数据中捕捉数据模式的方法,包括模型的初始化值、模型的梯度计算、模型的学习率、模型的架构选择。3.根据权利要求1所述的基于狄利克雷过程的持续元学习方法,其特征在于,所述基于初始元知识分布利用狄利克雷过程动态为当前时刻的数据增加新元知识分布的个数,包括:依据过去任务与当前所有元知识分布的关系,通过狄利克雷过程为当前任务生成新元知识分布个数的先验,这样通过先验值确定当前时刻创建的新元知识分布的个数;如果通过狄利克雷过程为当前任务生成的元知识分布个数为零,则认为当前时刻不为数据创建新元知识分布。4.根据权利要求1所述的基于狄利克雷过程的持续元学习方法,其特征在于,采用狄利克雷过程包含的中餐馆过程或印度自助餐过程为...

【专利技术属性】
技术研发人员:张强吴槟宫志晨陈华钧
申请(专利权)人:浙江大学杭州国际科创中心
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1