基于联邦学习的模型训练方法、装置、系统、设备和介质制造方法及图纸

本发明专利技术实施例涉及一种基于联邦学习的模型训练方法、装置、系统、设备和介质，具体涉及人工智能/机器学习技术领域，方法包括：基于本地数据对本地模型进行训练，将训练后的本地模型算法参数发送给公有云端服务器，以使所述公有云端服务器验证是否需要采用所接收的所述算法参数更新联合模型算法参数；接收所述公有云端服务器推送的更新后的联合模型算法参数；若验证需要采用所接收的所述联合模型算法参数更新本地模型，则将本地模型算法参数更新为所接收的联合模型算法参数。本发明专利技术实施例的技术方案能够在保证工业数据安全的同时，保证了模型训练的效果。模型训练的效果。模型训练的效果。

【技术实现步骤摘要】
基于联邦学习的模型训练方法、装置、系统、设备和介质


[0001]本专利技术实施例涉及人工智能
，具体涉及一种基于联邦学习的模型训练方法、装置、系统、电子设备、及存储介质。

技术介绍

[0002]工业数据是工业信息化的核心，尤其是制造业企业在生产运营中对工业数据有着高度的依赖，例如工艺参数、设备运行数据、生产数据等一系列工业数据是影响制造生产的关键数据，这些数据的安全直接关系到制造生产线的稳定运行，数据的丢失、恶意篡改或者错误都会导致整条产线的停产，对工业生产造成巨大的损失。此外，关乎国计民生的关键企业，工业数据的外泄也会影响到国家安全。出于对工业数据的保护，制造企业出于数据安全的考虑，对外不共享也不传输数据，导致数据孤岛形成，这成为当前人工智能技术在工业场景落地和持续优化的挑战。在工业智能化过程中，如何有效的既保护数据安全也能够使用充足的数据量进行模型训练，解决人工智能模型持续优化的问题成为制造业技术发展的关键所在。
[0003]为保障工业企业数据安全，目前大多采用私有云方案，数据不出厂，数据安全可靠，但由于数据不开放，不共享，导致工业数据分散，优质数据少，影响了数据模型训练和优化，不足以支撑人工智能技术落地实现。

技术实现思路

[0004]有鉴于此，本专利技术实施例提供一种基于联邦学习的模型训练方法、装置、电子设备、及存储介质，以在保证工业数据安全的同时，保证了模型训练的效果。
[0005]本专利技术实施例的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本专利技术实施例的实践而习得。
[0006]在本公开的第一方面，本专利技术实施例提供了一种基于联邦学习的模型训练方法，由各私有云端服务器执行，包括：
[0007]基于本地数据对本地模型进行训练，将训练后的本地模型算法参数发送给公有云端服务器，以使所述公有云端服务器验证是否需要采用所接收的所述算法参数更新联合模型算法参数；
[0008]接收所述公有云端服务器推送的更新后的联合模型算法参数；
[0009]若验证需要采用所接收的所述联合模型算法参数更新本地模型，则将本地模型算法参数更新为所接收的联合模型算法参数。
[0010]于一实施例中，验证是否需要采用所接收的所述联合模型算法参数更新本地模型包括：
[0011]采用先验数据集计算本地模型的效果指标得到第一指标值；
[0012]将本地模型算法参数替换为所接收的所述联合模型算法参数后，采用所述先验数据集计算替换算法参数后的本地模型的效果指标得到第二指标值；
[0013]根据所述第一指标值和所述第二指标值的大小确定是否需要采用所接收的所述联合模型算法参数更新本地模型。
[0014]于一实施例中，所述公有云端服务器验证是否需要采用所接收的所述算法参数更新联合模型算法参数包括：
[0015]采用先验数据集计算联合模型的效果指标得到第三指标值；
[0016]将联合模型的算法参数替换为所接收的所述本地模型算法参数后，采用所述先验数据集计算替换算法参数后的联合模型的效果指标得到第四指标值；
[0017]根据所述第三指标值和所述第四指标值的大小确定是否需要采用所接收的所述本地模型算法参数更新联合模型。
[0018]于一实施例中，所述效果指标包括准确率和/或召回率。
[0019]于一实施例中，在基于本地数据对本地模型进行训练之前还包括，接收公有云端服务器下发的初始模型算法参数；
[0020]基于本地数据对本地模型进行训练包括：基于所述初始模型算法参数和本地数据对本地模型进行训练。
[0021]在本公开的第二方面，本专利技术实施例还提供了一种基于联邦学习的模型训练装置，配置于各私有云端服务器中，所述装置包括：
[0022]本地训练与参数上传单元，用于基于本地数据对本地模型进行训练，将训练后的本地模型算法参数发送给公有云端服务器，以使所述公有云端服务器验证是否需要采用所接收的所述算法参数更新联合模型算法参数；
[0023]联合模型参数接收单元，用于接收所述公有云端服务器推送的更新后的联合模型算法参数；
[0024]验证与更新单元，用于若验证需要采用所接收的所述联合模型算法参数更新本地模型，则将本地模型算法参数更新为所接收的联合模型算法参数。
[0025]于一实施例中，所述验证与更新单元用于验证是否需要采用所接收的所述联合模型算法参数更新本地模型包括：
[0026]采用先验数据集计算本地模型的效果指标得到第一指标值；
[0027]将本地模型算法参数替换为所接收的所述联合模型算法参数后，采用所述先验数据集计算替换算法参数后的本地模型的效果指标得到第二指标值；
[0028]根据所述第一指标值和所述第二指标值的大小确定是否需要采用所接收的所述联合模型算法参数更新本地模型。
[0029]于一实施例中，所述本地训练与参数上传单元中所述公有云端服务器验证是否需要采用所接收的所述算法参数更新联合模型算法参数包括：
[0030]采用先验数据集计算联合模型的效果指标得到第三指标值；
[0031]将联合模型的算法参数替换为所接收的所述本地模型算法参数后，采用所述先验数据集计算替换算法参数后的联合模型的效果指标得到第四指标值；
[0032]根据所述第三指标值和所述第四指标值的大小确定是否需要采用所接收的所述本地模型算法参数更新联合模型。
[0033]于一实施例中，所述效果指标包括准确率和/或召回率。
[0034]于一实施例中，所述装置还包括初始模型参数接收单元，用于在基于本地数据对
本地模型进行训练之前，接收公有云端服务器下发的初始模型算法参数；
[0035]所述本地训练与参数上传单元用于基于本地数据对本地模型进行训练包括：用于基于所述初始模型算法参数和本地数据对本地模型进行训练。
[0036]在本公开的第三方面，提供了一种基于联邦学习的模型训练系统，包括公有云端服务器和多个私有云端服务器；
[0037]各私有云端服务器基于本地数据对本地模型进行训练，将训练后的本地模型算法参数发送给所述公有云端服务器；
[0038]所述公有云端服务器验证是否需要采用所接收的参数更新联合模型算法参数，若是则采用所接收的参数更新联合模型算法参数，将更新后的联合模型算法参数推送到各私有云端服务器；
[0039]各私有云端服务器若接收到所述公有云端服务器推送的联合模型算法参数，则验证是否需要采用所接收的所述联合模型算法参数更新本地模型，若是则将本地模型算法参数更新为所接收的联合模型算法参数。
[0040]于一实施例中，在各私有云端服务器基于本地数据对本地模型进行训练之前还包括：
[0041]所述公有云端服务器将初始模型算法参数发送到各私有云端服务器，各私有云端服务器基于所述初始模型算法参数和本地数据对本地模型进行训练。
[0042]在本公开的第四方面，提供了一种电子设备。该电子设备包括：处理器；以及本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于联邦学习的模型训练方法，其特征在于，由各私有云端服务器执行，包括：基于本地数据对本地模型进行训练，将训练后的本地模型算法参数发送给公有云端服务器，以使所述公有云端服务器验证是否需要采用所接收的所述算法参数更新联合模型算法参数；接收所述公有云端服务器推送的更新后的联合模型算法参数；若验证需要采用所接收的所述联合模型算法参数更新本地模型，则将本地模型算法参数更新为所接收的联合模型算法参数。2.根据权利要求1所述的方法，其特征在于，验证是否需要采用所接收的所述联合模型算法参数更新本地模型包括：采用先验数据集计算本地模型的效果指标得到第一指标值；将本地模型算法参数替换为所接收的所述联合模型算法参数后，采用所述先验数据集计算替换算法参数后的本地模型的效果指标得到第二指标值；根据所述第一指标值和所述第二指标值的大小确定是否需要采用所接收的所述联合模型算法参数更新本地模型。3.根据权利要求1所述的方法，其特征在于，所述公有云端服务器验证是否需要采用所接收的所述算法参数更新联合模型算法参数包括：采用先验数据集计算联合模型的效果指标得到第三指标值；将联合模型的算法参数替换为所接收的所述本地模型算法参数后，采用所述先验数据集计算替换算法参数后的联合模型的效果指标得到第四指标值；根据所述第三指标值和所述第四指标值的大小确定是否需要采用所接收的所述本地模型算法参数更新联合模型。4.根据权利要2或3所述的方法，其特征在于，所述效果指标包括准确率和/或召回率。5.根据权利要求1所述的方法，其特征在于，在基于本地数据对本地模型进行训练之前还包括，接收公有云端服务器下发的初始模型算法参数；基于本地数据对本地模型进行训练包括：基于所述初始模型算法参数和本地数据对本地模型进行训练。6.一种基于联邦学习的模型训练装置，其特征在于，配置于各私有云端服务器中，所述装置包...

【专利技术属性】
技术研发人员：诸葛慧玲，张成龙，孙明，贾淇超，李晓璐，
申请(专利权)人：海尔卡奥斯物联生态科技有限公司海尔数字科技青岛有限公司，
类型：发明
国别省市：