System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术提出了基于mqtt面向工业物联网的联邦学习通信方法和系统,属于联邦学习通信。
技术介绍
1、现有的联邦学习通信技术,无法直接应用于工业物联网场景下,iiot设备通常在带宽有限、延迟敏感的环境中运行,需要最小化的通信量来进行模型的传输。
技术实现思路
1、本专利技术提供了基于mqtt面向工业物联网的联邦学习通信方法和系统,用以解决现有技术中联邦学习通信技术,无法直接应用于工业物联网场景下的问题:
2、基于mqtt面向工业物联网的联邦学习通信方法,所述基于mqtt面向工业物联网的联邦学习通信方法包括:
3、利用联邦学习需求信息和通信需求信息对工业物联网场景中的用户终端的联邦学习模型进行训练;
4、当工业物联网的用户终端产生需要进行传输的数据信息时,通过用户终端的联邦学习模型进行数据压缩,获得压缩后的数据包;
5、将所述压缩后的数据包利用mqtt协议发送至工业物联网对应的物联网平台上。
6、进一步地,利用联邦学习需求信息和通信需求信息对工业物联网场景中的用户终端的联邦学习模型进行训练,包括:
7、提取工业物联网场景中的联邦学习需求信息;
8、提取采用mqtt协议进行通信的通信需求信息;
9、在工业物联网的用户终端采集本地数据,并利用本地数据对联邦学习对应的学习模型进行训练。
10、进一步地,在工业物联网的用户终端采集本地数据,并利用本地数据对联邦学习对应的学习模型进行训练
11、控制所述工业物联网的用户终端采集用户终端对应的本地数据;
12、对所述本地数据进行数据清洗,获得数据清洗后的本地数据,并将所述数据清洗后的本地数据作为样本数据,形成样本数据集;
13、其中,数据清洗过程中的异常值识别和剔除的过程如下:
14、步骤一:设需要进行异常值剔除的数据集中数据共有n个,第i个数据的值为vi,i为数据编号,其大于等于1且小于等于n,则此n个数据的均值为:
15、
16、其中avg为此n个数据的均值;
17、步骤二:根据步骤一的计算结果,计算此n个数据的标准差,其计算公式为:
18、
19、其中std为此n个数据的标准差;
20、步骤三:根据步骤一和步骤二的计算结果,计算第i个数据的值为vi的k值,其计算公式如下:
21、
22、其中ki为第i个数据的值为vi的k值。当ki大于3时,表明该数据为异常数据,应予以剔除;当ki小于等于3时,表明该数据为正常数据,予以保留。
23、根据所述工业物联网的用户终端对应的联邦学习需求信息和通信需求信息从所述工业物联网的数据库中调取与所述用户终端的联邦学习需求信息和通信需求信息对应的联邦学习模型,作为目标学习模型;
24、将所述目标学习模型发送至对应的用户终端;
25、所述用户终端利用所述样本数据集对接收到的目标学习模型进行训练,获得训练后的目标学习模型。
26、进一步地,当工业物联网的用户终端产生需要进行传输的数据信息时,通过用户终端的联邦学习模型进行数据压缩,获得压缩后的数据包,包括:
27、当工业物联网的用户终端产生需要进行传输的数据信息时,提取待压缩数据信息;
28、将所述待压缩数据信息输入至联邦学习模型中,通过所述联邦学习模型按照压缩规则进行数据压缩,输出压缩后的数据包。
29、进一步地,压缩规则如下:
30、提取待压缩数据信息进行压缩处理对应的梯度信息;
31、对所述待压缩数据信息进行压缩处理对应的梯度信息使用绝对值的单一阈值对固定比例的梯度进行稀疏化处理;
32、使用8位无符号整形的线性量化方法将梯度映射为最小的整数值;
33、按照待压缩数据信息获取梯度映射对应的最小的整数值对所述待压缩数据信息进行压缩。
34、基于mqtt面向工业物联网的联邦学习通信系统,所述基于mqtt面向工业物联网的联邦学习通信系统包括:
35、学习模型训练模块,用于利用联邦学习需求信息和通信需求信息对工业物联网场景中的用户终端的联邦学习模型进行训练;
36、数据压缩模块,用于当工业物联网的用户终端产生需要进行传输的数据信息时,通过用户终端的联邦学习模型进行数据压缩,获得压缩后的数据包;
37、数据发送模块,用于将所述压缩后的数据包利用mqtt协议发送至工业物联网对应的物联网平台上。
38、进一步地,所述学习模型训练模块包括:
39、学习需求信息提取模块,用于提取工业物联网场景中的联邦学习需求信息;
40、通信需求信息提取模块,用于提取采用mqtt协议进行通信的通信需求信息;
41、训练执行模块,用于在工业物联网的用户终端采集本地数据,并利用本地数据对联邦学习对应的学习模型进行训练。
42、进一步地,所述训练执行模块包括:
43、本地数据采集模块,用于控制所述工业物联网的用户终端采集用户终端对应的本地数据;
44、样本数据集获取模块,用于对所述本地数据进行数据清洗,获得数据清洗后的本地数据,并将所述数据清洗后的本地数据作为样本数据,形成样本数据集;
45、其中,数据清洗过程中的异常值识别和剔除的过程如下:
46、步骤一:设需要进行异常值剔除的数据集中数据共有n个,第i个数据的值为vi,i为数据编号,其大于等于1且小于等于n,则此n个数据的均值为:
47、
48、其中avg为此n个数据的均值;
49、步骤二:根据步骤一的计算结果,计算此n个数据的标准差,其计算公式为:
50、
51、其中std为此n个数据的标准差;
52、步骤三:根据步骤一和步骤二的计算结果,计算第i个数据的值为vi的k值,其计算公式如下:
53、
54、其中ki为第i个数据的值为vi的k值;当ki大于3时,表明该数据为异常数据,应予以剔除;当ki小于等于3时,表明该数据为正常数据,予以保留。
55、目标学习模型获取模块,用于根据所述工业物联网的用户终端对应的联邦学习需求信息和通信需求信息从所述工业物联网的数据库中调取与所述用户终端的联邦学习需求信息和通信需求信息对应的联邦学习模型,作为目标学习模型;
56、目标学习模型发送模块,用于将所述目标学习模型发送至对应的用户终端;
57、模型训练执行模块,用于所述用户终端利用所述样本数据集对接收到的目标学习模型进行训练,获得训练后的目标学习模型。
58、进一步地,所述数据压缩模块包括:
59、待压缩数据信息提取模块,用于当工业物联网的用户终端产生需要进行传输的数据信息时,提取待压缩数据信息;
本文档来自技高网...【技术保护点】
1.基于MQTT面向工业物联网的联邦学习通信方法,其特征在于,所述基于MQTT面向工业物联网的联邦学习通信方法包括:
2.根据权利要求1所述基于MQTT面向工业物联网的联邦学习通信方法,其特征在于,利用联邦学习需求信息和通信需求信息对工业物联网场景中的用户终端的联邦学习模型进行训练,包括:
3.根据权利要求2所述基于MQTT面向工业物联网的联邦学习通信方法,其特征在于,在工业物联网的用户终端采集本地数据,并利用本地数据对联邦学习对应的学习模型进行训练,包括:
4.根据权利要求1所述基于MQTT面向工业物联网的联邦学习通信方法,其特征在于,当工业物联网的用户终端产生需要进行传输的数据信息时,通过用户终端的联邦学习模型进行数据压缩,获得压缩后的数据包,包括:
5.根据权利要求4所述基于MQTT面向工业物联网的联邦学习通信方法,其特征在于,压缩规则如下:
6.基于MQTT面向工业物联网的联邦学习通信系统,其特征在于,所述基于MQTT面向工业物联网的联邦学习通信系统包括:
7.根据权利要求6所述基于MQTT面向工业物
8.根据权利要求7所述基于MQTT面向工业物联网的联邦学习通信系统,其特征在于,所述训练执行模块包括:
9.根据权利要求6所述基于MQTT面向工业物联网的联邦学习通信系统,其特征在于,所述数据压缩模块包括:
10.根据权利要求9所述基于MQTT面向工业物联网的联邦学习通信系统,其特征在于,压缩规则如下:
...【技术特征摘要】
1.基于mqtt面向工业物联网的联邦学习通信方法,其特征在于,所述基于mqtt面向工业物联网的联邦学习通信方法包括:
2.根据权利要求1所述基于mqtt面向工业物联网的联邦学习通信方法,其特征在于,利用联邦学习需求信息和通信需求信息对工业物联网场景中的用户终端的联邦学习模型进行训练,包括:
3.根据权利要求2所述基于mqtt面向工业物联网的联邦学习通信方法,其特征在于,在工业物联网的用户终端采集本地数据,并利用本地数据对联邦学习对应的学习模型进行训练,包括:
4.根据权利要求1所述基于mqtt面向工业物联网的联邦学习通信方法,其特征在于,当工业物联网的用户终端产生需要进行传输的数据信息时,通过用户终端的联邦学习模型进行数据压缩,获得压缩后的数据包,包括:<...
【专利技术属性】
技术研发人员:余丹,兰雨晴,马海洋,邢智涣,王丹星,
申请(专利权)人:慧之安信息技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。