System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种自适应分布式电力数据异常检测模型构建方法及系统技术方案_技高网

一种自适应分布式电力数据异常检测模型构建方法及系统技术方案

技术编号:40946878 阅读:7 留言:0更新日期:2024-04-18 20:20
本发明专利技术公开了一种自适应分布式电力数据异常检测模型构建方法及系统,该方法通过中心服务器初始化全局模型;客户端用的本地电力数据对全局模型进行两轮梯度更新并上传至中心服务器;中心服务器对所有上传的数据进行加权平均得到新的全局模型;在达到预设的通信轮数或收敛条件后,每个客户端在本地使用新的全局模型进行梯度更新得到自己的个性化模型,并用所述个性化模型对电力数据进行异常检测;联邦训练结束后,客户端在客户端的组内模型及本地电力数据上进行微调产生个性化模型。本发明专利技术在分布式的客户端上进行本地模型训练,并在中心服务器上进行模型聚合,在分布式环境下实现高效、可靠、安全的电力数据异常检测。

【技术实现步骤摘要】

本专利技术属于电力数据处理,涉及一种自适应分布式电力数据异常检测模型构建方法及系统


技术介绍

1、电力数据异常检测主要采用集中式的方式进行,即将所有客户端(如智能电表)采集的电力数据传输到中心服务器进行处理和分析。然而,这种方式存在以下问题:数据传输和存储开销大,数据隐私和安全性难以保障,数据分布不均匀和不独立同分布,客户端参与度低,客户端异构性高,客户端个性化缺失。

2、meta-sgd是一种元学习算法,它可以通过二阶梯度下降来训练一个初始模型,使得每个客户端在本地训练后,可以得到一个适应自身数据特征和任务目标的个性化模型;fedavg是一种联邦学习算法,它通过加权平均来聚合模型参数。


技术实现思路

1、为了解决上述问题,本专利技术提出了一种自适应分布式电力数据异常检测模型构建方法及系统,利用联邦学习和元学习的思想,自适应的调节不同客户端的聚合模型参数和本地训练批次,从而优化训练出来的模型准确度,将模型训练过程分布在多个客户端进行,并通过中心服务器进行协调和聚合。该方法可以有效地降低数据传输和存储开销,保护数据隐私和安全性,适应数据分布不均匀和不独立同分布,提高客户端参与度,克服客户端异构性,并实现客户端个性化。

2、本专利技术通过下述技术方案来实现。一种自适应分布式电力数据异常检测模型构建方法,步骤如下:

3、步骤一:中心服务器初始化全局模型;

4、步骤二:客户端用的本地电力数据对全局模型进行两轮梯度更新并上传至中心服务器;p>

5、步骤三:中心服务器对所有上传的数据进行加权平均得到新的全局模型;

6、步骤四:达到预设的通信轮数或收敛条件后,每个客户端在本地使用新的全局模型进行梯度更新得到自己的个性化模型,并用所述个性化模型对电力数据进行异常检测;

7、步骤五:联邦训练结束后,客户端在客户端的组内模型及本地电力数据上进行微调产生个性化模型;

8、所述步骤二中,每个客户端从中心服务器中下载全局模型参数,根据下载的全局模型参数更新本地模型参数,进行本地模型学习训练;

9、每个客户端的本地电力数据会被划分为支撑数据和查询数据;每个客户端根据meta-sgd算法来更新自己的本地模型;

10、首先对支撑数据模型进行训练和参数的更新,并计算支撑数据模型的损失函数;

11、然后再对全局模型参数进行更新;

12、再对查询数据模型进行训练和参数的更新,并计算查询数据模型的损失函数;

13、最后求查询数据模型的损失函数的梯度。

14、进一步优选,所述客户端的组内模型是指在多轮训练后得到多个个性化模型,微调产生个性化模型对客户端的组内模型进行加权并在自己的梯度角度选择适合自己的最优个性化模型。

15、进一步优选,中心服务器初始化全局模型是:中心服务器分发初始化的全局模型、学习率到各个客户端,各客户端为各本地电力数据的所有者。

16、进一步优选,所述步骤二还包括:

17、第一轮客户端更新时初始化本地电力数据更新次数集合,为每一个客户端分配本地电力数据更新次数;

18、在第一轮客户端更新之后的每一批, 根据上一轮的客户端的本地电力数据量大小与本地电力数据的更新次数对本轮的客户端的本地电力数据更新次数进行赋值。

19、进一步优选,所述每个客户端根据meta-sgd算法来更新自己的本地模型,定义如下:

20、;

21、其中,表示全局模型,表示学习率,表示本地模型,表示查询数据模型,表示支撑数据模型。

22、进一步优选,所述计算支撑数据模型的损失函数,定义为:

23、;

24、其中,表示支撑数据模型的损失函数,x表示支撑数据中的数据,y表示支撑数据中与数据x对应的标签,是训练数据的损失函数,表示对全局模型训练所用的模型。

25、进一步优选,所述全局模型参数进行更新,定义为:

26、。

27、进一步优选,所述计算查询数据模型的损失函数,定义为:

28、;

29、其中,表示查询数据模型的损失函数,为查询数据中的数据,为查询数据中与数据对应的标签,是训练数据时以全局模型参数为起始模型参数所用的模型;

30、所述求查询数据模型的损失函数的梯度,定义为:

31、;

32、其中,为查询数据模型的损失函数的梯度。

33、本专利技术还提供了一种非易失性计算机存储介质,计算机存储介质存储有计算机可执行指令,该计算机可执行指令可执行上述自适应分布式电力数据异常检测模型构建方法。

34、本专利技术还提供一种自适应分布式电力数据异常检测模型构建系统,包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行自适应分布式电力数据异常检测模型构建方法。

35、本专利技术采用自适应的联邦学习梯度共享框架对不同客户端的本地模型进行处理,利用联邦学习技术在多个边缘设备上协同训练异常检测模型,无需将敏感的本地电力数据上传至云端,保证了数据的隐私和安全。考虑到不同设备的数据分布和计算能力,本专利技术采用pytorch框架实现了meta-sgd和fedavg算法,建立了自适应联邦框架,能够自适应地调整每个设备上的学习率、聚合参数、本地批次,以适应不同设备的数据分布和计算能力。

36、本专利技术利用meta-sgd算法对多个不同类型或场景的电力数据异常检测任务进行训练,得到一个具有自适应学习率的本地模型,对来自不同客户端的本地模型进行聚合,并更新本地模型。metasgd算法可以通过少量的梯度更新来快速适应新的任务,并且可以学习每个参数的学习率,减少模型聚合时出现的性能下降或不收敛的问题,从而提高模型的泛化能力和灵活性。可以有效地利用不同类型或场景的电力数据异常检测任务之间的共性和差异,提高模型的泛化能力和灵活性。可以有效地解决客户端之间数据分布不一致导致的模型聚合问题,提高模型的收敛速度和稳定性。

37、本专利技术利用fedavg算法在分布式的客户端上进行本地模型训练,并在中心服务器上进行模型聚合,可以有效地保护电力数据隐私和减少通信开销,在分布式环境下实现高效、可靠、安全的电力数据异常检测。

本文档来自技高网...

【技术保护点】

1.一种自适应分布式电力数据异常检测模型构建方法,其特征在于,步骤如下:

2.根据权利要求1所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述客户端的组内模型是指在多轮训练后得到多个个性化模型,微调产生个性化模型对客户端的组内模型进行加权并在自己的梯度角度选择适合自己的最优个性化模型。

3.根据权利要求1所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述中心服务器初始化全局模型是:中心服务器分发初始化的全局模型、学习率到各个客户端,各客户端为各本地电力数据的所有者。

4.根据权利要求1所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述步骤二还包括:

5.根据权利要求1所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述每个客户端根据Meta-SGD算法来更新自己的本地模型,定义如下:

6.根据权利要求5所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述计算支撑数据模型的损失函数,定义为:

7.根据权利要求6所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述全局模型参数进行更新,定义为:

8.根据权利要求7所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述计算查询数据模型的损失函数,定义为:

9.一种非易失性计算机存储介质,计算机存储介质存储有计算机可执行指令,其特征在于,该计算机可执行指令执行权利要求1-8任意一项所述的自适应分布式电力数据异常检测模型构建方法。

10.一种自适应分布式电力数据异常检测模型构建系统,包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,其特征在于,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8任意一项所述的自适应分布式电力数据异常检测模型构建方法。

...

【技术特征摘要】

1.一种自适应分布式电力数据异常检测模型构建方法,其特征在于,步骤如下:

2.根据权利要求1所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述客户端的组内模型是指在多轮训练后得到多个个性化模型,微调产生个性化模型对客户端的组内模型进行加权并在自己的梯度角度选择适合自己的最优个性化模型。

3.根据权利要求1所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述中心服务器初始化全局模型是:中心服务器分发初始化的全局模型、学习率到各个客户端,各客户端为各本地电力数据的所有者。

4.根据权利要求1所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述步骤二还包括:

5.根据权利要求1所述的自适应分布式电力数据异常检测模型构建方法,其特征在于,所述每个客户端根据meta-sgd算法来更新自己的本地模型,定义如下:

6.根据权利要求5所述的自适应分布式电力数据...

【专利技术属性】
技术研发人员:肖勇才江天天姚保明蔡庆黄勇军邱日轩陈明亮
申请(专利权)人:国网江西省电力有限公司电力科学研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1