一种支持在线学习的人工智能处理方法及处理器技术

技术编号:25837501 阅读:23 留言:0更新日期:2020-10-02 14:18
本发明专利技术提供一种支持在线学习的人工智能处理方法及处理器,采用自适应模板匹配、自适应高/低阈值判断结合神经网络判断的双判断方式,使得系统具备在线学习能力,能适应使用设备、使用者的时序信号特征,解决普遍存在的时序信号特征存在个体差异性的问题,有效提高了自动分类准确率。相比较传统的神经网络反向传播算法实现在线学习的硬件实现,本发明专利技术的参数量和运算量小,仅存储少量的数据,相比于神经网络的在线学习,本发明专利技术功耗和所需存储量大大降低。本发明专利技术的在线学习硬件模块中的所有参数均可根据不同的应用需求自由配置,从而使得在线学习算法能灵活部署在处理器上,适用于各种时序信号自动分类的应用场景。

【技术实现步骤摘要】
一种支持在线学习的人工智能处理方法及处理器
本专利技术涉及时间序列信号的在线学习技术,特别涉及一种支持在线学习的人工智能处理方法及处理器。
技术介绍
在现实场景中,传感器往往采集到是各式各样的时间序列信号,例如拾音器采集人声信号,佩戴式电极采集肌肉电信号、脑电信号以及心电信号等生理电信号。这一类时序信号,根据其波形的形态特征,就可以表征信号源所处的不同的状态或者反映信号源不同的性质,从而提取到有用的信息来进行信号分类处理。例如人声信号,相同词的发音波形相似,而不同词的发音波形有较大差异,因此可以根据人声信号的波形判断发音的词是否一致。又例如人体心电信号,其作为心脏活动在体表的综合表现,是最简便、最灵敏地了解到患者心肌缺血、心律不齐情况的一种检查方式,正常心脏的心电信号由较为规整的Q波、R波、S波构成,且R波的时间间隔较为固定,而由心肌缺血、心律不齐导致的心电信号,波形较为杂乱。因此可以根据心电信号的波形特征,对心电进行正/异常诊断。但是时间序列信号的波形普遍存在个体(信号源)差异性的问题,例如心电信号普遍存在病人-病人间差异性的问题,即同一类心脏疾病,不同患者间的心电波形会存在差异,甚至同一患者在不同时间发病的心电波形会都有差异。因此要对其做出准确判断,通常需要医生等具有丰富的相关领域知识和大量的实践经验。但是对此类时序信号进行长时间的人工分析,人不仅容易疲劳,而且效率也不够高,也无法满足某些需要实时监测的应用场景。而现在随着人工智能技术的普及,对于时间序列信号的高准确率的自动分类技术也逐渐得以实现。此类技术不但可以提供辅助人工判断的分类信息,同时也可应用于24小时实时监控。因此,具备高准确率、低功耗的时序信号人工智能处理器硬件应运而生。基于人工特征的时序信号自动分类算法,将时序信号经过人工设计的特征工程,进行时域、频域的特征分析,提取出数个时频域特征,然后把这些特征传入分类器例如支持向量机、决策树进行分类。而基于神经网络的端到端时序信号自动分类算法不需要预先人工来决定该提取信号的哪些特征,而是将采集的波形信号经过滤波除噪等预处理后直接送入卷积神经网络或者多层全连接层神经网络,通过大量的训练数据和标签来学习网络的参数,使得该神经网络能自动提取出信号特征,并在网络的分类层完成信号的自动分类。一般地,神经网络的参数需要在软件上事先训练好,再配置到相应的硬件中。基于人工特征的时序信号分类技术,主要局限在于算法的效果十分依赖人工提取的特征。由于时序信号普遍存在个体差异且随时间可能存在波动,这就对人工提取的特征十分严格。而人工提取的那些时频域特征往往不能很好地概括信号的各种类别,泛化能力较弱,不具备在线学习能力,无法适应时序信号的信号源差异性,因此准确率会比较低。而基于神经网络的信号分类技术使用了大量的训练数据和标签来自动学习到信号的波形特征,泛化能力相较于基于人工特征的自动分类方式有所提升,但是由于运算量大,需要存储较多参数,功耗和硬件资源消耗较大。并且由于训练数据中一般不会包含使用者或者使用设备的数据,或者这些数据未知,又因为时序信号普遍存在个体差异性问题,即同种性质/状态的不同设备、使用者的时序信号、甚至同一设备、使用者不同时刻的信号都可能存在着较大的差异,这就导致了神经网络参数很可能对训练集的数据过度拟合,而提取到了不必要的分类特征,这样直接应用在使用设备、使用者的信号自动分类,分类准确率会下降,这是因为训练集中没有包含使用设备、使用者的此类信号的信息,模型针对使用设备、使用者的时序信号泛化能力并不强。为提高模型的泛化能力,算法需要针对使用设备、使用者的数据进行在线学习,调整算法的相关参数来适应使用者的个体差异,而传统的神经网络在线学习算法,例如反向传播算法涉及大量的向量矩阵乘加操作,将导致很高的处理功耗以及硬件资源消耗。
技术实现思路
本专利技术所要解决的技术问题是,提供一种高准确率、低功耗的在线学习方法以及实现该方法的处理器。本专利技术为实现上述技术问题所采用的技术方案是,一种支持在线学习的人工智能处理方法,包括以下步骤:1)初始化阶段:1-1)初始化信号类型1模板、类型1信号与模板的差距、类型2信号与模板的差距;训练完成一个二分类的神经网络计算核,该神经网络计算核的输出层输出类型1信号或类型2信号的二分类结果;所述信号类型1模板为包含完整分类信息的时序信号段;1-2)对连续时序信号进行预处理,通过分析得到包含完整分类信息的信号序列段的起始、终止位置,从而生成时序信号段以及对应的时序特征;所述时序特征包括相邻两次完整信号段的时间间隔;1-3)将信号类型1模板输入至神经网络计算核,利用神经网络计算核来提取信号类型1模板的特征,将信号类型1模板的特征与对应的时序特征进行拼接作为信号类型1模板的特征向量;将当前时序信号段输入至神经网络计算核,利用神经网络计算核来提取当前时序信号段的特征,将当前时序信号段的特征与对应的时序特征进行拼接作为当前时序信号段的特征向量;当神经网络计算核输出当前时序信号段的二分类结果为类型1信号,则利用当前时序信号段更新信号类型1模板及其时序特征后,再初始化差距队列A为信号类型1与模板的差距队列A、信号类型2与模板的差距队列B;当神经网络计算核输出当前时序信号段的二分类结果为类型2,则不使用当前时序信号段进行后续操作;2)更新阶段:2-1)每次有新的时序信号段输入时,根据差距队列A、B计算高、低阈值,再计算当前时序信号段的特征向量以及信号类型1模板的特征向量的差平方和为差距E值;2-2)根据当前的差距E值进行类别判断:当差距E值小于低阈值的时候,经双阈值判断当前时序信号段为类型1信号;当差距E值大于高阈值的时候,经双阈值判断当前时序信号段为类型2信号;当差距E值介于低阈值和高阈值之间的时候,则由神经网络计算核输出当前信号的分类;2-3)每次双阈值判断后,如当前时序信号段由双阈值判断为类型1信号,则还需要再次更新信号类型1模板及其时序特征;当前时序信号段的类别判断为类型1信号时,将当前差距E值通过队列先进先出的方式更新差距队列A;当前时序信号段的类别判断为类型2信号时,将当前差距E值通过队列先进先出的方式更新差距队列B。一种支持在线学习的人工智能处理器,包括分段模块、输入缓冲模块、在线学习模块、神经网络计算核与类别判断模块;连续时序信号同时输入至分段模块和输入缓冲模块;分段模块对连续时序信号进行预处理后,通过分析得到包含完整分类信息的信号序列段的起始、终止位置,从而生成时序信号段以及对应的时序特征,生成时序特征输出至在线学习模块,生成分段控制信号输出至输入缓冲模块;时序特征包括相邻两次完整信号段的时间间隔,分段控制信号包括对连续时序信号进行分段的起始、终止位置;输入缓冲模块根据接收到的分段控制信号对连续时序信号进行分段后得到时序信号段,将时序信号段分别输出至在线学习模块和神经网络计算核;神经网络计算核包括输入层、隐藏层和输出层;输入层接收来自于输入缓冲模块的时序信号本文档来自技高网
...

【技术保护点】
1.一种支持在线学习的人工智能处理方法,其特征在于,包括以下步骤:/n1)初始化阶段:/n1-1)初始化信号类型1模板、类型1信号与模板的差距、类型2信号与模板的差距;训练完成一个二分类的神经网络计算核,该神经网络计算核的输出层输出类型1信号或类型2信号的二分类结果;所述信号类型1模板为包含完整分类信息的时序信号段;/n1-2)对连续时序信号进行预处理,通过分析得到包含完整分类信息的信号序列段的起始、终止位置,从而生成时序信号段以及对应的时序特征;所述时序特征包括相邻两次完整信号段的时间间隔;/n1-3)将信号类型1模板输入至神经网络计算核,利用神经网络计算核来提取信号类型1模板的特征,将信号类型1模板的特征与对应的时序特征进行拼接作为信号类型1模板的特征向量;将当前时序信号段输入至神经网络计算核,利用神经网络计算核来提取当前时序信号段的特征,将当前时序信号段的特征与对应的时序特征进行拼接作为当前时序信号段的特征向量;当神经网络计算核输出当前时序信号段的二分类结果为类型1信号,则利用当前时序信号段更新信号类型1模板及其时序特征后,再初始化信号类型1与模板的差距队列A、信号类型2与模板的差距队列B;当神经网络计算核输出当前时序信号段的二分类结果为类型2,则不使用当前时序信号段进行后续操作;/n2)更新阶段:/n2-1)每次有新的时序信号段输入时,根据差距队列A、B计算高、低阈值,再计算当前时序信号段的特征向量以及信号类型1模板的特征向量的差平方和为差距E值;/n2-2)根据当前的差距E值进行类别判断:/n当差距E值小于低阈值的时候,经双阈值判断当前时序信号段为类型1信号;/n当差距E值大于高阈值的时候,经双阈值判断当前时序信号段为类型2信号;/n当差距E值介于低阈值和高阈值之间的时候,则由神经网络计算核输出当前信号的分类;/n2-3)每次双阈值判断后,如当前时序信号段由双阈值判断为类型1信号,则还需要再次更新信号类型1模板及其时序特征;当前时序信号段的类别判断为类型1信号时,将当前差距E值通过队列先进先出的方式更新差距队列A;当前时序信号段的类别判断为类型2信号时,将当前差距E值通过队列先进先出的方式更新差距队列B。/n...

【技术特征摘要】
1.一种支持在线学习的人工智能处理方法,其特征在于,包括以下步骤:
1)初始化阶段:
1-1)初始化信号类型1模板、类型1信号与模板的差距、类型2信号与模板的差距;训练完成一个二分类的神经网络计算核,该神经网络计算核的输出层输出类型1信号或类型2信号的二分类结果;所述信号类型1模板为包含完整分类信息的时序信号段;
1-2)对连续时序信号进行预处理,通过分析得到包含完整分类信息的信号序列段的起始、终止位置,从而生成时序信号段以及对应的时序特征;所述时序特征包括相邻两次完整信号段的时间间隔;
1-3)将信号类型1模板输入至神经网络计算核,利用神经网络计算核来提取信号类型1模板的特征,将信号类型1模板的特征与对应的时序特征进行拼接作为信号类型1模板的特征向量;将当前时序信号段输入至神经网络计算核,利用神经网络计算核来提取当前时序信号段的特征,将当前时序信号段的特征与对应的时序特征进行拼接作为当前时序信号段的特征向量;当神经网络计算核输出当前时序信号段的二分类结果为类型1信号,则利用当前时序信号段更新信号类型1模板及其时序特征后,再初始化信号类型1与模板的差距队列A、信号类型2与模板的差距队列B;当神经网络计算核输出当前时序信号段的二分类结果为类型2,则不使用当前时序信号段进行后续操作;
2)更新阶段:
2-1)每次有新的时序信号段输入时,根据差距队列A、B计算高、低阈值,再计算当前时序信号段的特征向量以及信号类型1模板的特征向量的差平方和为差距E值;
2-2)根据当前的差距E值进行类别判断:
当差距E值小于低阈值的时候,经双阈值判断当前时序信号段为类型1信号;
当差距E值大于高阈值的时候,经双阈值判断当前时序信号段为类型2信号;
当差距E值介于低阈值和高阈值之间的时候,则由神经网络计算核输出当前信号的分类;
2-3)每次双阈值判断后,如当前时序信号段由双阈值判断为类型1信号,则还需要再次更新信号类型1模板及其时序特征;当前时序信号段的类别判断为类型1信号时,将当前差距E值通过队列先进先出的方式更新差距队列A;当前时序信号段的类别判断为类型2信号时,将当前差距E值通过队列先进先出的方式更新差距队列B。


2.如权利要求1所述方法,其特征在于,步骤1-3)以及步骤2-3)中利用当前时序信号段更新信号类型1模板的方式为:
信号类型1模板=M*信号类型1模板+(1-M)*当前时序信号段;
信号类型1模板的时序特征=
M*信号类型1模板的时序特征+(1-M)*当前时序信号段的时序特征;
其中,M为预设的模板混合系数。


3.如权利要求1所述方法,其特征在于,步骤1-3)中信号类型1与模板的差距队列A、信号类型2与模板的差距队列B的初始方式为:
将当前差距E值和K倍差距E值分别加入到两个存储容量为L的差距队列A、B中;当差距队列A、B被填满时,信号类型1与模板的差距队列A与信号类型2与模板的差距队列B的初始化完成;K是预设倍数。


4.如权利要求1所述方法,其特征在于,步骤2-1)中根据差距队列A、B计算高、低阈值的方式为:
将差距队列A中差距的平均值记为a,差距队列B中差距的平均值记为b,根据平均值a和b计算出两个高低阈值:
低阈值=T*a+(1-T)*b
高阈值=(1-T)*a+T*b
其中,T为取值范围0到1之间的阈值混合系数。


5.如权利要求1所述方法,其特征在于,所述步骤1-2)中所述预处理包括经过有限长单位冲激响应滤波器FIR滤波滤除噪声和干扰的处理。


6.一种支持在线学习的人工智能处理器,其特征在于,包括分段模块、输入缓冲模块、在线学习模块、神经网络计算核与类别判断模块;
连续时序信号同时输入至分段模块和输入缓冲模块;
分段模块对连续时序信号进行预处理后,通过分析得到包含完整分类信息的信号序列段的起始、终止位置,从而生成时序信号段以及对应的时序特征,生成时序特征输出至在线学习模块,生成分段控制信号输出至输入缓冲模块;时序特征包括相邻两次完整信号段的时间间隔,分段控制信号包括对连续时序信号进行分段的起始、终止位置;
输入缓冲模块根据接收到的分段控制信号对连续时序信号进行分段后得到时序信号段,将时序信号段分别输出至在线学习模块和神经网络计算核;
神经网络计算核包括输入层、隐藏层和输出层;输入层接收来自于输入缓冲模块的时序信号段以及来自于在线学习模块输出的信号类型1模板,之后输出数据至隐藏层;隐藏层输出提取的当前时序信号段的特征至输出层和在线学习模块,输出信号类型1模板的特征至在线学习模块;输出层输出当前时序信号段的分类结果;输出层为二分类,输出类型1信号或类型2信号的二分类结果;
在线学习模块用于完成自适应模板匹配与自适应高/低阈值判断,接收来自于输入缓冲模块的时序信号段、分段模块的时序特征以及神经网络计算核输出的特征与二分类结果,向神经网络计算核输出当前的信号类型1模板,将信号类型1模板的特征与对应的时序特征进行拼接作为信号类型1模板的特征向量,将当前时序信号段的特征与对应的时序特征进行拼接作为当前时序信号段的特征向量;根据所处状态向类别判断模块输出阶段信号;在初始化阶段,当神经网络计算核输出当前时序信号段的二分类结果为类型1信号,则利用当前时序信号段及其时序特征更新信号类型1模板及其时序特征后,再初始化信号类型1与模板的差距队列A、信号类型2与模板的差距队列B;当神经网络计算核输出当前时序信号段的二分类结果为类型2,则不使用当前时序信号段进行后续操作;在更新阶段,每次有新的时序信号段输入时,根据差距队列A、B计算高、低阈值,再计算当前时序信号段的特征向量以及信号类...

【专利技术属性】
技术研发人员:周军刘嘉豪祝镇王宁
申请(专利权)人:电子科技大学
类型:发明
国别省市:四川;51

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1