基于联邦学习的模型训练处理方法、装置、设备及介质制造方法及图纸

本申请涉及人工智能技术领域，公开了一种基于联邦学习的模型训练处理方法、装置、设备和存储介质，用于减少计算成本。方法部分包括：将中央节点设备本地的初始网络模型，发送给各个子节点设备；获取各个子节点设备分别上传的目标参数，为各个子节点设备对初始网络模型进行训练后，得到的已训练网络模型的第一预设特征参数层的参数，其中，第一预设特征参数层为已训练网络模型中感受野大于预设值的网络层，已训练网络模型的第二预设特征参数层的参数被子节点设备冻结在本地，第二预设特征参数层为已训练网络模型中感受野小于或等于预设值的网络层；根据各个子节点设备分别上传的目标参数，更新中央节点设备本地的初始网络模型，得到目标网络模型。得到目标网络模型。得到目标网络模型。

【技术实现步骤摘要】
基于联邦学习的模型训练处理方法、装置、设备及介质


[0001]本申请涉及人工智能
，尤其涉及一种基于联邦学习的模型训练处理方法、装置、设备及介质。

技术介绍

[0002]联邦学习是一种分布式机器学习技术，可以在不交换本地数据的情况下，多中心联合训练一个机器学习模型。最近的研究表明，特征推理攻击(featureinference attacks)常应用于联邦学习，特征推理攻击利用特征推理方式，可以从中央节点设备的模型参数中学习并恢复各本地数据的数据隐私信息，在联邦学习中，特征推理攻击的防御方法还有待探索。
[0003]传统的方案中，各子节点设备会利用密码方法(如同态加密和安全多方计算)来避免上述特征推理攻击，然后会消耗大量的计算时间和计算资源，提高了计算资源成本。

技术实现思路

[0004]本申请实施例提供一种基于联邦学习的模型训练处理方法、装置、设备及介质，以解决会消耗大量的计算时间和计算资源，提高了计算资源成本的技术问题。
[0005]一种基于联邦学习的模型训练处理方法，用于中央节点设备，包括：
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于联邦学习的模型训练处理方法，用于中央节点设备，其特征在于，包括：将中央节点设备本地的初始网络模型，发送给各个子节点设备；获取各个所述子节点设备分别上传的目标参数，各个所述子节点设备对应的所述目标参数，为各个所述子节点设备根据本地训练数据对接收的所述初始网络模型进行训练后，得到的已训练网络模型的第一预设特征参数层的参数，其中，所述第一预设特征参数层为所述已训练网络模型中感受野大于预设值的网络层，所述已训练网络模型的第二预设特征参数层的参数被所述子节点设备冻结在子节点设备本地，所述第二预设特征参数层为所述已训练网络模型中感受野小于或等于所述预设值的网络层；根据各个所述子节点设备分别上传的所述目标参数，更新所述中央节点设备本地的所述初始网络模型，得到目标网络模型。2.如权利要求1所述的基于联邦学习的模型训练处理方法，其特征在于，各个所述子节点设备对应的所述目标参数，为各个所述子节点设备对通过模型性能验证后的所述已训练网络模型的第一预设特征参数层的参数。3.如权利要求1所述的基于联邦学习的模型训练处理方法，其特征在于，所述根据各个所述子节点设备分别上传的所述目标参数，更新所述中央节点设备本地的所述初始网络模型，得到目标网络模型之后，所述方法还包括：对所述目标网络模型进行模型性能验证；当所述目标网络模型通过模型性能验证后，向各个所述各个子节点设备发送网络模型更新请求，所述网络模型更新请求包括通过性能验证后的所述目标网络模型，以使各个所述子节点设备分别根据通过性能验证后的所述目标网络模型更新本地的网络模型。4.如权利要求1所述的基于联邦学习的模型训练处理方法，其特征在于，所述初始网络模型包括如下其中一种网络模型：图像分类网络模型、目标检测网络模型和图像分割网络模型。5.如权利要求1
‑
4任一项所述的基于联邦学习的模型训练处理方法，其特征在于，所述获取各个所述子节点设备分别上传的目标参数，包括：等待各个所述子节点设备分上传的所述目标参数；当接收到预设子节点设备数量的所述子节点设备上传的所述目标参数后，对所述预设子节点设备数量的所述子节点设备上传的多个所述目标参数进行聚合，得到聚合参数，并对其余子节点设备反馈停止上传请求，所述停止上传请求用于指示其余子节点设备停止上传所述目标参数，其余子节点设备为所述中央节点设备接收到预设子节点设备数量的所述子节点设备上传的所述目标参数时还未上传参数的子节点设备；所述根据所有所述子节点设备分别上传的所述目标参数，更新所述中央节点设备本地的所述初始网络模型，得到目标网络模型，包括：利用所述聚合参数更新所述中央节点设备本地的...

【专利技术属性】
技术研发人员：李泽远，王健宗，曹康养，
申请(专利权)人：平安科技深圳有限公司，
类型：发明
国别省市：