一种联合学习系统的模型更新方法、装置、设备及介质制造方法及图纸

本公开涉及人工智能技术领域，提供了一种联合学习系统的模型更新方法、装置、设备及介质。该方法包括：根据中心节点对应的预置标准数据集，对中心节点对应的预设模型进行训练更新，得到第一模型；其中，预置标准数据集与本地参与方节点对应的本地数据相关；将中心节点对应的全局模型发送至各本地参与方节点，通过各本地参与方节点与相应的本地数据对全局模型进行训练，得到各本地参与方节点分别对应的第二模型；确定第一模型与各第二模型之间的余弦相似度，根据预设余弦相似度条件筛选出符合条件的第二模型；基于余弦相似度对符合条件的第二模型参数进行聚合处理，以得到全局模型对应的更新参数。的更新参数。的更新参数。

【技术实现步骤摘要】
一种联合学习系统的模型更新方法、装置、设备及介质


[0001]本公开涉及人工智能
，尤其涉及一种联合学习系统的模型更新方法、装置、设备及介质。

技术介绍

[0002]联合学习是一种保护数据隐私的分布数据集的分布式学习范式。经典的联合学习框架包含中心节点和不同的本地参与方节点，通过各本地参与方节点对模型参数上传下发实现对全局模型的更新训练。
[0003]现有技术中的联合学习框架存在安全性问题，比如攻击者控制着一些恶意客户端，这些客户端可以是攻击者注入的虚假客户端，也可以是被攻击者破坏的真实客户端。恶意客户端可以在联合学习训练过程中，向服务器发送任意的本地模型更新参数，从而降低全局模型更新的精度，以致降低联合学习的稳定性。

技术实现思路

[0004]有鉴于此，本公开实施例提供了一种联合学习系统的模型更新方法、装置、设备及介质，以解决恶意客户端在联合学习训练过程中，向服务器发送任意的本地模型更新参数，从而降低全局模型更新的精度，以致降低联合学习的稳定性的问题。
[0005]本公开实施例的第一方面，提供了一种联合学本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种联合学习系统的模型更新方法，其特征在于，所述联合学习系统包括中心节点以及至少一个本地参与方节点，所述方法包括：根据所述中心节点对应的预置标准数据集，对所述中心节点对应的预设模型进行训练更新，得到第一模型；其中，所述预置标准数据集与所述本地参与方节点对应的本地数据相关；将所述中心节点对应的全局模型发送至各本地参与方节点，通过所述各本地参与方节点对应的本地数据对所述全局模型进行训练，得到所述各本地参与方节点分别对应的第二模型；确定所述第一模型与所述各第二模型之间的余弦相似度，根据预设余弦相似度条件筛选出符合条件的第二模型；基于所述余弦相似度对所述符合条件的第二模型参数进行聚合处理，以得到全局模型对应的更新参数。2.根据权利要求1所述的方法，其特征在于，所述确定所述第一模型与所述各第二模型之间的余弦相似度，具体包括：将所述第一模型对应的上一周期的模型训练参数作为第一更新向量的起点，将所述第二模型对应的上一周期的模型训练参数作为第二更新向量的起点；以及将所述第一模型对应的当前周期的模型训练参数作为第一更新向量的终点，将所述第二模型对应的当前周期的模型训练参数作为第二更新向量的终点；基于所述第一更新向量的起点、所述第二更新向量的起点、所述第一更新向量的终点以及所述第二更新向量的终点，确定所述第一模型与所述第二模型之间的余弦相似度。3.根据权利要求1所述的方法，其特征在于，所述根据预设余弦相似度条件筛选出符合条件的第二模型，具体包括：确定出余弦相似度为负的第二模型，通过线性整流函数将所述余弦相似度为负的第二模型进行剔除；将剩余的第二模型作为所述符合条件的第二模型，以进行聚合处理；其中，所述符合条件的第二模型的更新方向与所述第一模型的更新方向相同。4.根据权利要求1所述的方法，其特征在于，所述基于所述余弦相似度对所述符合条件的第二模型参数进行聚合处理，以得到全局模型对应的更新参数，具体包括：将所述符合条件的第二模型对应的余弦相似度作为信任分数；对所述符合条件的第二模型进行归一化处理，使得所述符合条件的第二模型与所述第一模型的量级相同；将所述信任分数作为权重，对归一化处理后得到的各第二模型参数进行加权平均处理，得到所述全局模型对应的更新参数。5.根据权利要求1所述的方法，其特征在于，所述根据所述中心节点对应的预置标准数据集，对所述中心节点对应的第一模型进行训练更新之前，所述方法还包括：接收所述各本地参与方节点上传的本地部...

【专利技术属性】
技术研发人员：赵蕾，
申请(专利权)人：新智我来网络科技有限公司，
类型：发明
国别省市：