System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 联邦框架下基于HMM的时序数据分类结果异常检测方法及系统技术方案_技高网

联邦框架下基于HMM的时序数据分类结果异常检测方法及系统技术方案

技术编号:40602901 阅读:5 留言:0更新日期:2024-03-12 22:08
本发明专利技术提供了联邦框架下基于HMM的时序数据分类结果异常检测方法及系统,涉及人工智能技术领域,本发明专利技术在联邦框架下基于HMM开发可用于检测时序数据异常分类结果的检测方法,采用基于联邦学习的方式,在保证数据隐私安全的基础上结合多方数据进行建模,训练具有较好性能的异常检测方法,实现对错误分类情况的准确检测,有助于降低使用者的工作量,填补了分类结果后处理问题的空白,为使用者得到分类结果后的后处理过程提供了一些指导,此外本方案将在联邦学习框架下进行,既能实现多中心联合建模使得HMM异常检测方法性能的提升又可以保证基本的数据隐私安全。

【技术实现步骤摘要】

本专利技术涉及人工智能,特别是涉及联邦框架下基于hmm的时序数据分类结果异常检测方法及系统。


技术介绍

1、目前,基于人工智能方法的数据自动分类技术已经在经济、文化等各个领域广泛推广和应用。目前大部分数据分类任务主要通过如下方式进行,在客户端采集到足够数量数据后,对数据进行有效标注,利用深度学习模型进行训练和测试。如采用双分支网络的方式,结合使用大小不同的卷积核分别学习了脑电信号中的时频域特征,而后使用多头注意力机制,使深度学习模型对一些特征波形赋予更高的权重。此外,循环神经网络(recurrentneural network,rnn)在时间序列信号处理方面也展现了较好的性能。

2、时序数据的异常检测是工业界亟待解决的问题,涉及到异常数据、网络攻击等检测任务,一些常见的时序数据异常检测方法,如基于统计的异常检测方法,基于均值和标准差的z分数方法可以用来检测距离平均值较远的数据点,超过一定阈值的点可以被视为异常;又如长短期记忆网络(long short-term memory,lstm),lstm是一种适用于处理序列数据的循环神经网络。通过将时序数据输入lstm模型中,可以学习时序模式,并对输入数据进行分类。异常数据通常会引起lstm模型的异常响应,从而用于异常检测。此外还有常用于时序数据建模的概率模型hmm,在时序数据异常检测中,可以使用hmm来建模正常的时序模式,并通过计算观测数据与模型之间的差异来检测异常。

3、然而,目前用于实现时序数据分类任务的神经网络往往只聚焦于模型在测试集上性能表现如何,忽略了对于分类结果的后处理过程。部分分类任务可能因为不同类别数据存在着相似特征而导致神经网络出现错误分类的情况。


技术实现思路

1、有鉴于此,本专利技术提供了联邦框架下基于hmm的时序数据分类结果异常检测方法及系统,时序数据分类模型输出结果的后处理即分类结果异常检测,为保护数据隐私,本专利技术在联邦框架下基于hmm(hidden markov model,隐马尔可夫模型)开发可用于检测时序数据异常分类结果的检测方法,采用基于联邦学习的方式,在保证数据隐私安全的基础上结合多方数据进行建模,训练具有较好性能的异常检测方法,实现对错误分类情况的准确检测,有助于降低使用者的工作量。

2、为此,本专利技术采用如下技术方案:

3、本专利技术公开了一种联邦框架下基于hmm的时序数据分类结果异常检测方法,应用于客户端,多个客户端与可信中心服务器以客户-服务器方式进行联邦组网;所述方法包括:

4、接收所述可信中心服务器下发的初始化分类任务模型参数;

5、使用本地数据中用于训练分类模型的第一训练数据对初始化分类任务模型进行训练,在达到设定训练轮数或预先设定的收敛条件后,所述各客户端向中心服务器发送本地模型参数;以便所述可信中心服务器对各客户端发送的本地模型参数进行多中心数据联邦建模,形成联邦模型;

6、使用所述联邦模型在本地数据中用于训练hmm的第二训练数据上训练隐马尔可夫模型hmm,得到本地hmm参数,并将所述本地hmm参数上传至所述可信中心服务器;以便所述可信中心服务器对各个客户端的本地hmm参数进行聚合,得到联邦化hmm参数,并将所述联邦化hmm参数回传至所述各客户端;

7、使用联邦化hmm参数与维特比算法推得隐藏状态序列,得到指征某个分类结果是否需要修改的依据,实现神经网络分类结果的异常检测;在hmm中将是否需要修改的结果标签作为隐藏状态,将神经网络的预测标签作为观测序列。

8、进一步地,所述可信中心服务器对各客户端发送的本地模型参数进行多中心数据联邦建模,包括:

9、中心服务器使用联邦平均方式对各客户端发送的本地模型参数进行联邦聚合,得到全局模型参数。

10、进一步地,在客户端训练hmm的过程中,使用baum-welch算法获取hmm参数。

11、进一步地,使用baum-welch算法获取hmm参数,包括:

12、求得当hmm参数为时,期望的极大值,即极大化其中是隐马尔可夫模型参数当前的估计值,λ是极大化期望最终得到的隐马尔可夫模型参数,o为观测状态序列,s为不可观测的隐藏状态序列,p(o,s|λ)为当hmm参数为λ时,隐藏状态序列为s并且观测序列为o的概率;同理,为当hmm参数为时,隐藏状态序列为s并且观测序列为o的概率;使用em算法即可获得微调后的客户端hmm参数,其中,是hmm参数当前的估计值,λ是极大化期望最终得到的hmm参数。

13、进一步地,所述可信中心服务器对各个客户端的本地hmm参数进行聚合,包括:所述可信中心服务器对各客户端hmm参数矩阵加和后进行归一化。

14、进一步地,使用本地数据中用于训练分类模型的第一训练数据对初始化分类任务模型进行训练,包括:

15、设置本地初始化模型wc以及本地总迭代轮数t;

16、针对每个迭代轮数,采用一个训练批次计算本地模型梯度更新本地模型其中,ηc是本地学习率;

17、在达到设定训练轮数或预先设定的收敛条件后,得到第i个客户端的本地模型wci。

18、本专利技术还公开了一种联邦框架下基于hmm的时序数据分类结果异常检测系统,包括:多个客户端和可信中心服务器;

19、各客户端与可信中心服务器以客户-服务器方式进行联邦组网;

20、所述可信中心服务器向所述各个客户端下发初始化分类任务模型参数;

21、所述各客户端使用本地数据中用于训练分类模型的第一训练数据对初始化分类任务模型进行训练,在达到设定训练轮数或预先设定的收敛条件后,所述各客户端向中心服务器发送本地模型参数;

22、所述可信中心服务器对各客户端发送的本地模型参数进行多中心数据联邦建模,形成联邦模型;

23、所述各客户端使用所述联邦模型在本地数据中用于训练hmm的第二训练数据上训练隐马尔可夫模型hmm,得到本地hmm参数,并将所述本地hmm参数上传至所述可信中心服务器;

24、所述可信中心服务器对各个客户端的本地hmm参数进行聚合,得到联邦化hmm参数,并将所述联邦化hmm参数回传至所述各客户端;

25、所述各客户端使用联邦化hmm参数与维特比算法推得隐藏状态序列,得到指征某个分类结果是否需要修改的依据,实现神经网络分类结果的异常检测;在hmm中将是否需要修改的结果标签作为隐藏状态,将神经网络的预测标签作为观测序列。

26、本专利技术的优点和积极效果:

27、本专利技术提供了一种联邦框架下基于hmm的时序数据分类结果异常检测方法,这种方法可以对时序数据分类网络输出的分类结果进行异常检测,即指出分类结果中存疑或异常的部分。本专利技术利用基于hmm的异常检测方法填补了分类结果后处理问题的空白,为使用者得到分类结果后的后处理过程提供了一些指导,此外本方案将在联邦学习框架下进行,既能实现多中心联合建模使得hmm异常检测方法性能的提升又本文档来自技高网...

【技术保护点】

1.一种联邦框架下基于HMM的时序数据分类结果异常检测方法,其特征在于,应用于客户端,多个客户端与可信中心服务器以客户-服务器方式进行联邦组网;所述方法包括:

2.根据权利要求1所示的一种联邦框架下基于HMM的时序数据分类结果异常检测方法,其特征在于,所述可信中心服务器对各客户端发送的本地模型参数进行多中心数据联邦建模,包括:

3.根据权利要求1所示的一种联邦框架下基于HMM的时序数据分类结果异常检测方法,其特征在于,在客户端训练HMM的过程中,使用Baum-welch算法获取HMM参数。

4.根据权利要求3所示的一种联邦框架下基于HMM的时序数据分类结果异常检测方法,其特征在于,使用Baum-welch算法获取HMM参数,包括:

5.根据权利要求1所示的一种联邦框架下基于HMM的时序数据分类结果异常检测方法,其特征在于,所述可信中心服务器对各个客户端的本地HMM参数进行聚合,包括:所述可信中心服务器对各客户端HMM参数矩阵加和后进行归一化。

6.根据权利要求1所述的一种联邦框架下基于HMM的时序数据分类结果异常检测方法,其特征在于,使用本地数据中用于训练分类模型的第一训练数据对初始化分类任务模型进行训练,包括:

7.一种联邦框架下基于HMM的时序数据分类结果异常检测系统,其特征在于,包括:多个客户端和可信中心服务器;

...

【技术特征摘要】

1.一种联邦框架下基于hmm的时序数据分类结果异常检测方法,其特征在于,应用于客户端,多个客户端与可信中心服务器以客户-服务器方式进行联邦组网;所述方法包括:

2.根据权利要求1所示的一种联邦框架下基于hmm的时序数据分类结果异常检测方法,其特征在于,所述可信中心服务器对各客户端发送的本地模型参数进行多中心数据联邦建模,包括:

3.根据权利要求1所示的一种联邦框架下基于hmm的时序数据分类结果异常检测方法,其特征在于,在客户端训练hmm的过程中,使用baum-welch算法获取hmm参数。

4.根据权利要求3所示的一种联邦框架下基于hmm的时序数据分类结果异常检...

【专利技术属性】
技术研发人员:王梓屹刘航丛丰裕郭艳卿付海燕
申请(专利权)人:大连理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1