一种基于深度神经网络的连续学习统一框架制造技术

技术编号:24800784 阅读:40 留言:0更新日期:2020-07-07 21:15
本发明专利技术提供的一种基于深度神经网络的连续学习统一框架,所述连续学习统一框架包括:通过深度神经网络的权重逐步学习若干个任务;所述学习若干个任务是通过非遗忘、正向传输、避免混淆和向后转移来学习的;并对学习每个任务的权重进行合并,并设置超参数b值。本发明专利技术通过该框架可以通过利用深度神经网络中的少量权重合并参数来演示所有属性;另外,框架的行为和机制与人类学习的行为和机制之间得出许多相似之处,如非遗忘、正向传输、避免混淆和向后转移。作为双向灵感的渠道,进一步了解机器和人类的连续学习。

【技术实现步骤摘要】
一种基于深度神经网络的连续学习统一框架
本专利技术属于机器学习
,尤其涉及一种基于深度神经网络的连续学习统一框架。
技术介绍
人类具有持续获得知识和技能的能力,可以根据新的经验对其进行完善,并在整个生命周期内跨领域转移它们。数十年来,人类的学习能力一直在启发着机器的学习方法,这项工作的目标是进一步扩大人类学习对机器的持续学习或终身学习的影响。目前,机器学习的方法通常是一开始就把所有的神经网络用上去,那么存在一些问题,比如现在需要通过深度神经网络学习一个比较难的任务,或者学习两个以上的任务,那么它一开始就从难的任务开始学习或者两个以上的任务同时学习,这样它学习的难度会很大,学习的东西也太多,需要的学习时间更长;再比如现在通过深度神经网络学习了第一个任务,在一段时间后发现还需要学习第二个任务,而深度神经网络的权重不够了可能也不知道,那么它在学习第二个任务的时候很可能就会把已学习的第一个任务覆盖。为此,我们需要一个框架,该框架可以通过利用深度神经网络中的少量权重合并参数来演示所有属性。
技术实现思路
r>鉴于上述现有技术本文档来自技高网...

【技术保护点】
1.一种基于深度神经网络的连续学习统一框架,其特征在于,所述连续学习统一框架包括:/n通过深度神经网络的权重逐步学习若干个任务;所述学习若干个任务是通过非遗忘、正向传输、避免混淆和向后转移来学习的;/n并对学习每个任务的权重进行合并,并设置超参数b值。/n

【技术特征摘要】
1.一种基于深度神经网络的连续学习统一框架,其特征在于,所述连续学习统一框架包括:
通过深度神经网络的权重逐步学习若干个任务;所述学习若干个任务是通过非遗忘、正向传输、避免混淆和向后转移来学习的;
并对学习每个任务的权重进行合并,并设置超参数b值。


2.根据权利要求1所述的连续学习统一框架,其特征在于,所述超参数b值的大小根据学习任务的需要设置。


3.根据权利要求1或2所述的连续学习统一框架,其特征在于,所述逐步学习若干个任务包括:
逐步学习第一个任务和学习第二个任务;
所述学习所述第一个任务为括根据所述第一个任务的知识点,选择第一数量的权重,来对所述第一个任务的知识点进行学习,并对所述第一数量的权重合并,并设置第一超参数b值;
所述学习所述第二个任务包括,若所述第二个任务里的知识点,有与所述第一个任务里的知识点部分相同,则所述第二个任务首先利用所述第二个任务里,与所述第一个任...

【专利技术属性】
技术研发人员:查尔斯·凌维克特·盛方巍郭奇锋常坚张齐宁翟培芳
申请(专利权)人:深圳深知未来智能有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1