System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及物联网数据处理,特别是涉及一种基于云边协同的工业互联网数据分析处理系统。
技术介绍
1、工业制造业是一个国家的基石。工业互联网是互联网和新一代信息技术与工业系统全方位深度融合所形成的产业和应用生态,是工业制造业智能化发展的关键综合信息基础设施。随着工业4.0与工业互联网蓬勃兴起,对现场设备管控、资源优化配置和生产智能化等领域都提出了新的要求,迫切需要在工业现场边缘处加强网络、数据和安全体系建设。
2、在传统工业环境中,数据往往需要集中在中心服务器上进行处理,这就意味着数据需要通过网络传输到中心服务器,存在数据隐私泄露的风险。特别是在工业环境中,数据往往包含了敏感的商业信息或个人隐私,一旦泄露可能对企业或个人造成严重的损失。而且对于大规模的数据集来说,数据传输和处理的效率较低,需要消耗大量的网络带宽和时间。同时缺乏模型共享和协同学习,每个本地设备都需要独立进行数据处理和模型训练,无法实现模型的共享和协同学习。这就意味着每个本地设备都需要从头开始进行模型训练,浪费了资源和时间。
技术实现思路
1、为了解决以上技术问题,本专利技术提供一种基于云边协同的工业互联网数据分析处理系统,包括云服务器和n个边缘侧参与设备,云服务器包括模型聚合模块、数据存储模块、数据分析模块以及存储有计算机程序的存储器;
2、边缘侧参与设备,用于在本地进行局部模型训练以及通过联邦学习方式进行数据处理任务,同时对本地数据进行采样,将采样数据和训练更新后的局部模型参数发送到云服务器
3、数据分析模块,用于执行计算机程序对边缘侧参与设备数据的安全性进行评估,并反馈给模型聚合模块;
4、模型聚合模块,用于对接收到的局部模型参数进行集成和更新,生成新的全局模型参数,并将新的全局模型参数发送回各个边缘侧参与设备;
5、云服务器,用于向边缘侧参与设备发布数据处理任务;还用于判断模型是否收敛或达到预设的训练轮数,如果收敛或达到预设的训练轮数,则结束模型训练更新;否则,通过模型聚合模块将更新后的全局模型参数发送回各个边缘侧参与设备进行训练更新;
6、数据存储模块,用于存储边缘侧参与设备中的局部模型参数和模型训练记录。
7、本专利技术进一步限定的技术方案是:
8、进一步的,边缘侧参与设备中,数据处理任务为利用数据训练联邦学习的目标模型,数据处理任务包括最小化数据质量问题、最大化数据的可用性以及最大化模型的准确度。
9、前所述的一种基于云边协同的工业互联网数据分析处理系统,最大化模型的准确度依赖于下式所示优化问题:
10、
11、其中,w表示优化目标模型参数,w*表示联邦学习训练的理论最优模型参数,l(w)表示所有边缘侧参与设备的数据集上的全局损失函数。
12、前所述的一种基于云边协同的工业互联网数据分析处理系统,边缘侧参与设备中,边缘侧参与设备k使用更新后的全局模型参数w(t,0)和本地数据集来训练本地局部模型参数,以最小化本地联邦学习损失函数lk(w(t,n);使用梯度下降法解决局部fl损失函数问题,局部模型参数更新如下:
13、
14、其中,λ是学习率,是局部fl损失函数的梯度,t表示全局轮次,n表示局部迭代轮次。
15、前所述的一种基于云边协同的工业互联网数据分析处理系统,边缘侧参与设备中,对本地数据进行采样的具体方法为:将总体数据按照特征或属性划分为若干层,然后在每一层中进行随机采样,每个样本被选中的概率相等。
16、前所述的一种基于云边协同的工业互联网数据分析处理系统,数据分析模块中,对数据安全性进行评估包括以下步骤
17、s1、收集所有边缘侧参与设备上传的数据,对数据进行预处理;
18、s2、使用数据安全性指标对边缘侧参与设备上传的数据的安全性α进行评估;
19、s3、使用数据可靠性指标对边缘侧参与设备上传的数据的可靠性β进行评估。
20、前所述的一种基于云边协同的工业互联网数据分析处理系统,步骤s1中,对数据进行预处理包括数据清洗、去噪以及缺失值处理。
21、前所述的一种基于云边协同的工业互联网数据分析处理系统,步骤s2中,数据安全性指标包括数据完整性、数据保密性以及数据可用性。
22、前所述的一种基于云边协同的工业互联网数据分析处理系统,步骤s3中,数据可靠性指标包括数据一致性、数据准确性以及数据时效性。
23、前所述的一种基于云边协同的工业互联网数据分析处理系统,模型聚合模块对边缘侧参与设备上传的局部模型参数进行聚合更新,其更新描述表达式如下:
24、
25、其中,w(t+1,0)表示云服务器第t+1轮迭代更新的模型参数,k表示表示数据处理任务中与云服务器相连的需要传输局部模型参数的边缘侧参与设备总数;dk表示边缘侧参与设备k的本地数据集样本数量;表示k个边缘侧参与设备的本地数据集样本总数;表示由数据安全性和数据可靠性组成的权重矩阵。
26、本专利技术的有益效果是:
27、(1)本专利技术中,通过联邦学习的方式,将数据处理任务分布到工业互联网边缘侧参与设备上进行,避免了数据的集中传输和存储,保护了数据的隐私性;同时本专利技术利用分布式数据处理和模型共享学习的方式,提高了数据处理的效率和准确性,降低了数据传输和计算的成本;
28、(2)本专利技术中,通过云服务器对边缘侧参与设备随机采样的数据分析,对数据的质量和可信度进行评估,及时发现和识别数据中的安全风险和潜在威胁,进而反馈到模型参数的聚合过程中,进行有差别的模型聚合,提高联邦学习的效果和结果,降低因数据质量和安全性问题对模型效果带来的负面影响。
本文档来自技高网...【技术保护点】
1.一种基于云边协同的工业互联网数据分析处理系统,其特征在于:包括云服务器和N个边缘侧参与设备,云服务器包括模型聚合模块、数据存储模块、数据分析模块以及存储有计算机程序的存储器;
2.根据权利要求1所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述边缘侧参与设备中,数据处理任务为利用数据训练联邦学习的目标模型,数据处理任务包括最小化数据质量问题、最大化数据的可用性以及最大化模型的准确度。
3.根据权利要求2所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述最大化模型的准确度依赖于下式所示优化问题:
4.根据权利要求1所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述边缘侧参与设备中,边缘侧参与设备k使用更新后的全局模型参数w(t,0)和本地数据集来训练本地局部模型参数,以最小化本地联邦学习损失函数Lk(w(t,n);使用梯度下降法解决局部FI损失函数问题,局部模型参数更新如下:
5.根据权利要求1所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述边缘侧参与设备中
6.根据权利要求1所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述数据分析模块中,对数据安全性进行评估包括以下步骤
7.根据权利要求6所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述步骤S1中,对数据进行预处理包括数据清洗、去噪以及缺失值处理。
8.根据权利要求6所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述步骤S2中,数据安全性指标包括数据完整性、数据保密性以及数据可用性。
9.根据权利要求6所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述步骤S3中,数据可靠性指标包括数据一致性、数据准确性以及数据时效性。
10.根据权利要求1所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述模型聚合模块对边缘侧参与设备上传的局部模型参数进行聚合更新,其更新描述表达式如下:
...【技术特征摘要】
1.一种基于云边协同的工业互联网数据分析处理系统,其特征在于:包括云服务器和n个边缘侧参与设备,云服务器包括模型聚合模块、数据存储模块、数据分析模块以及存储有计算机程序的存储器;
2.根据权利要求1所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述边缘侧参与设备中,数据处理任务为利用数据训练联邦学习的目标模型,数据处理任务包括最小化数据质量问题、最大化数据的可用性以及最大化模型的准确度。
3.根据权利要求2所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述最大化模型的准确度依赖于下式所示优化问题:
4.根据权利要求1所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所述边缘侧参与设备中,边缘侧参与设备k使用更新后的全局模型参数w(t,0)和本地数据集来训练本地局部模型参数,以最小化本地联邦学习损失函数lk(w(t,n);使用梯度下降法解决局部fi损失函数问题,局部模型参数更新如下:
5.根据权利要求1所述的一种基于云边协同的工业互联网数据分析处理系统,其特征在于:所...
【专利技术属性】
技术研发人员:历明,唐墨,李亚丽,叶欧海,张汉军,马新翔,李嘉靖,
申请(专利权)人:中国工业互联网研究院,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。