用于模型自适应的方法、设备以及机程序产品技术

技术编号:28376609 阅读:18 留言:0更新日期:2021-05-08 00:04
本公开的实施例提供用于模型自适应的方法、设备以及程序产品。该方法包括利用具有第一参数集值的第一机器学习模型处理第一输入数据以获得第一输入数据的第一特征信息,第一机器学习模型具有自组织能力并且在第一输入数据的处理后第一参数集值被更新;利用具有第二参数集值的第二机器学习模型,基于第一特征信息来生成针对第一输入数据的第一分类结果;利用具有更新后的第一参数集值的第一机器学习模型处理第二输入数据,以获得第二输入数据的第二特征信息;以及利用具有第二参数集值的第二机器学习模型基于第二特征信息来生成针对第二输入数据的第二分类结果。由此,用于分类的机器学习模型能够适应输入数据的特征的改变,确定更好的分类结果。

【技术实现步骤摘要】
用于模型自适应的方法、设备以及机程序产品
本公开的实施例涉及人工智能领域,并且更具体地,涉及用于模型自适应的方法、设备以及计算机程序产品。
技术介绍
近年来,高性能计算、机器学习、深度学习和人工智能等新兴技术快速发展。技术人员基于这些新兴技术、根据实际需要设计不同的处理任务,以完成相应的处理目标。这样的任务可以被统称为机器学习任务。机器学习任务经常依赖于大量的数据和高强度的处理能力,特别是并行处理能力。因此,除了中央处理单元(CPU)等通用处理资源、存储装置等存储资源,机器学习任务还需要诸如图形处理单元(GPU)、现场可编程门阵列(FPGA)等的专用处理资源来执行。取决于任务的目标、复杂度、精度等不同方面的要求,不同机器学习任务对于资源的需求量可能不尽相同。因此,至少出于资源考虑,机器学习模型的更新会受到一定限制。
技术实现思路
本公开的实施例提供了一种用于模型自适应的方案。在本公开的第一方面中,提供了一种于模型自适应的方法。该方法包括利用具有第一参数集值的第一机器学习模型处理第一输入数据,以获得第一输入数据的第一特征信息,第一机器学习模型具有自组织能力并且在第一输入数据的处理后第一参数集值被更新;利用具有第二参数集值的第二机器学习模型,基于第一特征信息来生成针对第一输入数据的第一分类结果;利用具有更新后的第一参数集值的第一机器学习模型处理第二输入数据,以获得第二输入数据的第二特征信息;以及利用具有第二参数集值的第二机器学习模型,基于第二特征信息来生成针对第二输入数据的第二分类结果。>在本公开的第二方面中,提供了一种电子设备。该电子设备包括至少一个处理器;以及存储有计算机程序指令的至少一个存储器,至少一个存储器和计算机程序指令被配置为,与至少一个处理器一起,使得电子设备执行动作。动作包括利用具有第一参数集值的第一机器学习模型处理第一输入数据,以获得第一输入数据的第一特征信息,第一机器学习模型具有自组织能力并且在第一输入数据的处理后第一参数集值被更新;利用具有第二参数集值的第二机器学习模型,基于第一特征信息来生成针对第一输入数据的第一分类结果;利用具有更新后的第一参数集值的第一机器学习模型处理第二输入数据,以获得第二输入数据的第二特征信息;以及利用具有第二参数集值的第二机器学习模型,基于第二特征信息来生成针对第二输入数据的第二分类结果。在本公开的第三方面中,提供了一种计算机程序产品。该计算机程序产品被有形地存储在非易失性计算机可读介质上并且包括机器可执行指令,机器可执行指令在被执行时使设备:利用具有第一参数集值的第一机器学习模型处理第一输入数据,以获得第一输入数据的第一特征信息,第一机器学习模型具有自组织能力并且在第一输入数据的处理后第一参数集值被更新;利用具有第二参数集值的第二机器学习模型,基于第一特征信息来生成针对第一输入数据的第一分类结果;利用具有更新后的第一参数集值的第一机器学习模型处理第二输入数据,以获得第二输入数据的第二特征信息;以及利用具有第二参数集值的第二机器学习模型,基于第二特征信息来生成针对第二输入数据的第二分类结果。提供
技术实现思路
部分是为了简化的形式来介绍对概念的选择,它们在下文的具体实施方式中将被进一步描述。
技术实现思路
部分无意标识本公开的关键特征或主要特征,也无意限制本公开的范围。附图说明通过结合附图对本公开示例性实施例进行更详细的描述,本公开的上述以及其它目的、特征和优势将变得更加明显,其中,在本公开示例性实施例中,相同的参考标号通常代表相同部件。图1示出了常规的基于机器学习模型的应用的示意图;图2示出了根据本公开的一些实施例的具有自适应的模型架构的结构的示意图;图3示出了根据本公开的一些实施例的第一机器学习模型的示例结构的示意图;图4示出了根据本公开的一些实施例的第二机器学习模型的示例结构的示意图;图5示出了根据本公开的另一些实施例的有自适应的模型的结构的示意图;图6示出了根据本公开的一些实施例的用于模型自适应的过程的流程图;以及图7示出了可以用来实施本公开的实施例的示例设备的框图。具体实施方式下面将参考附图中示出的若干示例实施例来描述本公开的原理。虽然附图中显示了本公开的优选实施例,但应当理解,描述这些实施例仅是为了使本领域技术人员能够更好地理解进而实现本公开,而并非以任何方式限制本公开的范围。在本文中使用的术语“包括”及其变形表示开放性包括,即“包括但不限于”。除非特别申明,术语“或”表示“和/或”。术语“基于”表示“至少部分地基于”。术语“一个示例实施例”和“一个实施例”表示“至少一个示例实施例”。术语“另一实施例”表示“至少一个另外的实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。下文还可能包括其他明确的和隐含的定义。如本文中所使用的,“机器学习”指的是涉及高性能计算、机器学习和人工智能算法的处理。在本文中,术语“机器学习模型”也可以称为“学习模型”、“学习网络”、“网络模型”、或“模型”。“神经网络”或“神经网络模型”是一种深度机器学习模型。一般而言,机器学习模型接收输入信息并且基于输入信息执行预测。机器学习主要可以划分为三个阶段,即训练阶段、测试阶段和应用阶段。在训练阶段,给定的机器学习模型可以使用大量的训练样本进行训练,不断迭代,直到机器学习模型能够从训练样本中获得一致的、与人类智慧所能够做出的推理类似的推理。机器学习模型通过训练,可以被认为能够从训练数据中学习从输入到输出之间的映射或关联关系。经过训练后,机器学习模型的参数集被确定。在测试阶段,可以利用测试样本对已训练的机器学习模型进行测试,以确定机器学习模型的性能。在应用阶段,机器学习模型可以被用于基于训练得到的参数集,对实际的输入信息进行处理,以给出对应的输出。图1示出了常规的基于机器学习模型的应用100的示意图。在训练阶段,用于模型训练的计算设备110利用训练数据来训练机器学习模型102。计算设备110可访问训练数据库105,其中存储用于训练机器学习模型102的训练数据。模型的训练笼统而言可以分为监督式学习和非监督式学习。在监督式学习中,要利用训练输入数据112和该训练输入数据112的真实标签116来进行训练。训练输入数据112和真实标签116都称为机器学习模型102的训练数据。训练输入数据112的形式是机器学习模型102所支持的输入数据。在训练过程中,每次机器学习模型102均基于当前参数集的参数值来处理训练输入数据112,并给出在当前参数集基础上的模型输出114。计算设备110将模型输出114与真实标签116比较,可以确定机器学习模型102的参数集值是否正确。例如,如果比较的结果指示差异比较大,计算设备110将继续调整参数集值。在满足一定收敛条件之后,机器学习模型102的训练完成。在非监督式学习中,将不需要真实标签116,由机器学习模型102分析训练输入数据112中可能存在的模式,从而完成训练。在机器学习模型102训练完成后,可以继续利用已本文档来自技高网...

【技术保护点】
1.一种用于模型自适应的方法,包括:/n利用具有第一参数集值的第一机器学习模型处理第一输入数据,以获得所述第一输入数据的第一特征信息,所述第一机器学习模型具有自组织能力并且在所述第一输入数据的处理后所述第一参数集值被更新;/n利用具有第二参数集值的第二机器学习模型,基于所述第一特征信息来生成针对所述第一输入数据的第一分类结果;/n利用具有更新后的所述第一参数集值的所述第一机器学习模型处理第二输入数据,以获得所述第二输入数据的第二特征信息;以及/n利用具有所述第二参数集值的所述第二机器学习模型,基于所述第二特征信息来生成针对所述第二输入数据的第二分类结果。/n

【技术特征摘要】
1.一种用于模型自适应的方法,包括:
利用具有第一参数集值的第一机器学习模型处理第一输入数据,以获得所述第一输入数据的第一特征信息,所述第一机器学习模型具有自组织能力并且在所述第一输入数据的处理后所述第一参数集值被更新;
利用具有第二参数集值的第二机器学习模型,基于所述第一特征信息来生成针对所述第一输入数据的第一分类结果;
利用具有更新后的所述第一参数集值的所述第一机器学习模型处理第二输入数据,以获得所述第二输入数据的第二特征信息;以及
利用具有所述第二参数集值的所述第二机器学习模型,基于所述第二特征信息来生成针对所述第二输入数据的第二分类结果。


2.根据权利要求1所述的方法,其中所述第一机器学习模型包括非监督脉冲神经网络(SNN),并且
其中处理所述第一输入数据包括:将所述第一输入数据转换为所述非监督SNN适于处理的第一脉冲序列数据,并且
其中处理所述第二输入数据包括:将所述第一输入数据转换为所述非监督SNN适于处理的第二脉冲序列数据。


3.根据权利要求2所述的方法,其中所述第一机器学习模型被运行在神经形态芯片上。


4.根据权利要求1所述的方法,其中所述第一参数集值基于训练输入数据和针对所述训练输入数据的真实标签数据对所述第一机器学习模型进行训练而得到。


5.根据权利要求1所述的方法,其中所述第二机器学习模型的所述第二参数集值通过监督式学习过程而获得。


6.根据权利要求1所述的方法,进一步包括:
存储所述第一特征信息和所述第二特征信息中的至少一个;
根据确定获得针对所述第一输入数据的第一真实分类结果和针对所述第二输入数据的第二真实分类结果中的至少一个,并且确定所述第二机器学习模型的更新被触发,
利用所述第一特征信息和所述第一真实分类结果以及所述第二特征信息和所述第二真实分类结果中的至少一对,重新训练所述第二机器学习模型的副本模型,以更新所述第二参数集值;
根据在超过预定时间段之后没有获得针对所述第一输入数据的第一真实分类结果或针对所述第二输入数据的第二真实分类结果,丢弃所述第一特征信息或所述第二特征信息。


7.根据权利要求6所述的方法,进一步包括:
配置所述第二机器学习模型以具有更新后的所述第二参数集值。


8.一种电子设备,包括:
至少一个处理器;以及
存储有计算机程序指令的至少一个存储器,所述至少一个存储器和所述计算机程序指令被配置为,与所述至少一个处理器一起,使得所述电子设备执行动作,所述动作包括:
利用具有第一参数集值的第一机器学习模型处理第一输入数据,以获得所述第一输入数据的第一特征信息,所述第一机器学习模型具有自组织能力并且在所述第一输入数据的处理后所述第一参数集值被更新;
利用具有第二参数集值的第二机器学习模型,基于所述第一特征信息来生成针对所述第一输入数据的第一分类结果;
利用具有更新后的所述第一参数集值的所述第一机器学习模型处理第二输入数据,以获得所述第二输入数据的第二特征信息;以及
利用具有所述第二参数集值的所述第二机器学习模型,基于所述第二特征信息来生成针对所述第二输入数据的第二分类结果。


9.根据权利要求8所述的电子设备,其中所述第一机器学习模型包括非监督脉冲神经网络(SNN),并且
其中处理所述第一输入数据包括:将所述第一输入数据转换为所述非监督SNN适于处理的第一脉冲序列数据,并且
其中处理所述第二输入数据包括:将所述第一输入数据转换为所述非监督SNN适于处理的第二脉冲序列数据。


10.根据权利要求9所述的电子设备,其中所述第一机器学习模型被运行在神经形态芯片上。


11.根据权利要求8所述的电子设备,其中所述第一参数集值基于训练输入数据和针对所述训练输...

【专利技术属性】
技术研发人员:王汇泽李三平李锦
申请(专利权)人:伊姆西IP控股有限责任公司
类型:发明
国别省市:美国;US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1