一种复杂重型装备定制生产过程中的知识协同方法技术

本发明专利技术提供一种复杂重型装备定制生产过程中的知识协同方法，包括以下步骤：S1：基于云协同服务器中模型的知识输入规则，对各企业中的知识数据进行规则化处理。本发明专利技术提供一种复杂重型装备定制生产过程中的知识协同方法，实现了云协同服务器中模型的下发、训练、局部梯度上传、全局参数更新，且加入了动量随机梯度下降算法与优化后的损失函数，这些企业的知识数据只由一个云服务器所协调，知识数据不会离开企业系统，因此在保护企业知识数据隐私安全的前提下，实现了知识数据更充分的使用，有利于实现用户产品、用户服务、产品运维相关的定制化产品推荐、个性化服务推荐、精准化解决方案推荐。案推荐。案推荐。

【技术实现步骤摘要】
一种复杂重型装备定制生产过程中的知识协同方法


[0001]本专利技术涉及智能制造领领域，尤其涉及一种复杂重型装备定制生产过程中的知识协同方法。

技术介绍

[0002]随着新一代信息技术的迅猛发展以及制造系统和制造产品越来越复杂和智能，复杂重型装备定制生产企业在生产与运营管理过程中会产生海量的与产品设计、工艺规划、生产制造、销售物流、供应及运维服务等有关的知识数据，这些知识数据存在于不同企业的不同系统中。
[0003]如何结合人工智能、大数据技术将这些知识数据充分利用起来实现用户产品、用户服务、产品运维相关的定制化产品推荐、个性化服务推荐、精准化解决方案推荐是制造业优态运行的关键。
[0004]企业内各制造系统之间的知识交互和使用方式是比较直接的，然而不同企业之间的知识数据考虑到数据隐私和数据安全问题一般不会去共享使用，这在一定程度上形成了知识数据孤岛，且不同企业的知识系统数据分布不均匀，限制了知识数据更充分更完全的使用。
[0005]因此，有必要提供一种复杂重型装备定制生产过程中的知识协同方法解决上述技术问题。

技术实现思路

[0006]本专利技术提供一种复杂重型装备定制生产过程中的知识协同方法，解决了企业内各制造系统之间的知识交互和使用方式是比较直接的，然而不同企业之间的知识数据考虑到数据隐私和数据安全问题一般不会去共享使用，这在一定程度上形成了知识数据孤岛，且不同企业的知识系统数据分布不均匀，限制了知识数据更充分更完全的使用的问题。
[0007]为解决上述技术问题，本专利技术提供的一种复杂重型装备定制生产过程中的知识协同方法，包括以下步骤：
[0008]S1：基于云协同服务器中模型的知识输入规则，对各企业中的知识数据进行规则化处理，使其满足模型的输入；
[0009]S2：通过云协同服务器下发模型信息，在各企业的知识系统中对模型进行训练；
[0010]S3：设计动量随机梯度下降算法，上传各企业训练后模型的局部梯度上传至云协同服务器；
[0011]S4：基于收集到的局部梯度信息，对带有动量的全局模型参数更新，并通过优化损失函数来修正局部模型最优值与全局模型最优值之间的差距，最后将聚合后的全局模型下发到各个企业。
[0012]优选的，所述设计动量随机梯度下降算法在MSGD在训练中，采取的策略与随机梯度下降算法一样，不同的是学习率的更新方式，动量的参数更新如下所示：
[0013][0014]其中：η代表学习率，θ
t
表示t时刻的参数，代表参数θ对损失函数J在t时刻的导数，v
t
代表参数的更新速度。
[0015]优选的，所述MSGD应用到联邦学习的制造企业本地模型更新，其参数更新公式如下所示：
[0016][0017]其中：x为本地知识集的属性，y为其对应的标签，为参与方i的模型参数，为参与方i的损失函数。
[0018]优选的，所述梯度上传在联邦学习中，假设在第t轮迭代时，参与训练的制造企业为P
n
，每个制造企业i的本地知识集为D
i
，全局模型聚合的公式如下所示：
[0019][0020]优选的，所述MSGD应用到全局模型的聚合上，则全局模型参数聚合计算公式如下所示：
[0021][0022]其中：为t轮全局梯度，为上一轮也即t
‑
1轮的全局梯度。
[0023]优选的，所述局部梯度上传后，然后云协同服务器对局部梯度进行聚合获得全局梯度，各制造企业根据服务器下发的全局模型执行E轮本地SGD，计算局部梯度并上传至云协同服务器，如下所示：
[0024][0025]其中：w
t
为服务器下发的全局模型，为本地已更新好的模型参数。
[0026]优选的，所述全局模型参数更新时，假设在第t轮迭代时，参与训练的制造企业为P
n
，每个制造企业i的本地知识集为D
i
，n为所有参加训练的知识集大小，服务器接受到了所有参与训练的企业的局部梯度后，便进行全局聚合，全局梯度聚合公式如下所示：
[0027][0028]优选的，所述全局模型参数更新公式如下所示：
[0029]w
t+1
＝w
t
‑
ηg
t
。
[0030]优选的，所述优化损失函数时，联邦学习的目标可以转换成局部模型的损失函数最小化，则联邦学习最终的优化目标如下所示：
[0031][0032]其中：F
i
为各个参与训练的制造企业训练得到的局部模型。
[0033]在联邦学习环境中，假设每轮随机选择参加训练的企业数为N，本地更新阶段过后，参与方i的损失函数值如下所示：
[0034][0035]其中：b＝{x,y}，x为本地知识集的属性，y为其对应的标签，为参与方i的模型参数。
[0036]优选的，所述优化损失函数来修正局部模型最优值与全局模型最优值之间的差距，为了保证局部模型更新方向与全局模型最优点的方向一致，给损失函数加入了近端正则项，来控制局部模型的更新方向与全局模型一致，其公式如下所示：
[0037][0038]其中，w
t
为全局模型参数，μ为常数根据知识的异质性进行设置，其取值范围为μ∈[0,1]。
[0039]与相关技术相比较，本专利技术提供的一种复杂重型装备定制生产过程中的知识协同方法具有如下有益效果：
[0040]本专利技术提供一种复杂重型装备定制生产过程中的知识协同方法，基于联邦学习的复杂重型装备定制生产过程中的知识协同方法，实现了云协同服务器中模型的下发、训练、局部梯度上传、全局参数更新，且加入了动量随机梯度下降算法与优化后的损失函数，这些企业的知识数据只由一个云服务器所协调，知识数据不会离开企业系统，因此在保护企业知识数据隐私安全的前提下，实现了知识数据更充分的使用，有利于实现用户产品、用户服务、产品运维相关的定制化产品推荐、个性化服务推荐、精准化解决方案推荐。
附图说明
[0041]图1为本专利技术提供的一种复杂重型装备定制生产过程中的知识协同方法的结构示意图。
具体实施方式
[0042]下面结合附图和实施方式对本专利技术作进一步说明。
[0043]请结合参阅图1，其中，图1为本专利技术提供的一种复杂重型装备定制生产过程中的知识协同方法的结构示意图。一种复杂重型装备定制生产过程中的知识协同方法，包括以下步骤：
[0044]S1：基于云协同服务器中模型的知识输入规则，对各企业中的知识数据进行规则化处理，使其满足模型的输入；
[0045]S2：通过云协同服务器下发模型信息，在各企业的知识系统中对模型进行训练；
[0046]S3：设计动量随机梯度下降算法，上传各企业训练后模型的局部梯度上传至云协同服务器；
[0047]S4：基于收集到的局部梯度信息，对带有动量的全局模型参数更新，并通过优化损失函数来修本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种复杂重型装备定制生产过程中的知识协同方法，其特征在于，包括以下步骤：S1：基于云协同服务器中模型的知识输入规则，对各企业中的知识数据进行规则化处理，使其满足模型的输入；S2：通过云协同服务器下发模型信息，在各企业的知识系统中对模型进行训练；S3：设计动量随机梯度下降算法，上传各企业训练后模型的局部梯度上传至云协同服务器；S4：基于收集到的局部梯度信息，对带有动量的全局模型参数更新，并通过优化损失函数来修正局部模型最优值与全局模型最优值之间的差距，最后将聚合后的全局模型下发到各个企业。2.根据权利要求1所述的一种复杂重型装备定制生产过程中的知识协同方法，其特征在于，所述设计动量随机梯度下降算法在MSGD在训练中，采取的策略与随机梯度下降算法一样，不同的是学习率的更新方式，动量的参数更新如下所示：其中：η代表学习率，θ
t
表示t时刻的参数，代表参数θ对损失函数J在t时刻的导数，v
t
代表参数的更新速度。3.根据权利要求2所述的一种复杂重型装备定制生产过程中的知识协同方法，其特征在于，所述MSGD应用到联邦学习的制造企业本地模型更新，其参数更新公式如下所示：其中：x为本地知识集的属性，y为其对应的标签，为参与方i的模型参数，为参与方i的损失函数。4.根据权利要求1所述的一种复杂重型装备定制生产过程中的知识协同方法，其特征在于，所述梯度上传在联邦学习中，假设在第t轮迭代时，参与训练的制造企业为P
n
，每个制造企业i的本地知识集为D
i
，全局模型聚合的公式如下所示：5.根据权利要求2所述的一种复杂重型装备定制生产过程中的知识协同方法，其特征在于，所述MSGD应用到全局模型的聚合上，则全局模型参数聚合计算公式如下所示：其中：为t轮全局梯度，为上一轮也即t
‑
1轮的全局梯度。6.根据权利要求1所述的一种复杂重型装备定制生产过程中的知识协同方法，其特征在于，所述局部梯度上...

【专利技术属性】
技术研发人员：冯连强，王志超，徐江，董波，杨妮，王富强，
申请(专利权)人：中国重型机械研究院股份公司，
类型：发明
国别省市：