一种保护端侧隐私的端云协同训练系统技术方案

本发明专利技术提供保护端侧隐私的端云协同训练系统，其中，聚合模型存储部存储有至少预先训练得的云侧聚合模型，端侧通信部向云侧设备发送端侧聚合模型，云侧通信部接受端侧聚合模型，云侧自编码部处理云侧图像得伪图像，聚合模型处理部将伪图像分别输入端侧聚合模型和云侧聚合模型处理得到输出端侧聚合模型和输出云侧聚合模型，根据损失处理部处理得多个损失迭代部通过反向传播以及反复迭代来更新模型参数得到云侧训练伪图像生成器以及端云聚合模型。因此根据本发明专利技术能够在保护用户隐私的情况下，仍能高效稳定地聚合模型，具有保护用户隐私、聚合效果好、鲁棒性好、泛化能力佳等优点，适用于用户设备之间模型聚合、端云协同训练等实际应用。

【技术实现步骤摘要】
一种保护端侧隐私的端云协同训练系统
本专利技术涉及一种保护端侧隐私的端云协同训练系统，属于机器学习

技术介绍
联邦学习是一种新兴的人工智能基础技术，其设计目标是在大数据交换时，为保障信息安全、保护终端数据和个人数据隐私、保证合法合规而在多参与方或多计算节点之间开展高效率的机器学习使得逐渐产生了端侧和云侧的区分，进而存在了端云协同训练的思想。由于用户域数据与开发数据差异较大并且开发训练数据存储部无法覆盖所有用户场景，导致很多未见场景、类别识别错误或不支持。另外由于不同用户数据分布差异较大，统一部署的模型无法满足用户个性化需求进而深度地进行个性化识别模型训练，导致模型更新难度大。事实上，通常所说的云侧提供了充足的存储资源和计算资源，因此端云协同训练便是针对不同用户使用场景进行差异化分析和处理，从而持续提升模型性能。根据数据去中心化的原则，在设置端云协同训练，用户终端在中心服务器的协调下协同训练模型并且保持训练数据分散的做法减轻了由于传统的集中机器学习和数据科学方法带来的许多系统隐私风险和成本。根据数据中心化原则来协同训练模本文档来自技高网...

【技术保护点】
1.一种保护端侧隐私的端云协同训练系统，其特征在于，包括：/n云侧设备以及与该云侧设备相通信连接的端侧设备，/n其中，所述云端设备包含云侧数据存储部、云侧自编码部、聚合模型存储部、损失处理部、聚合模型处理部、迭代部以及云侧通信部，/n所述端侧设备包含端侧数据存储部、端侧聚合模型存储部以及端侧通信部，/n所述端侧数据存储部存储有端侧图像以及相应的所述端侧标签，/n所述端侧聚合模型存储部有基于所述端侧图像预先训练得到的所述端侧聚合模型，/n所述云侧数据存储部用于存储云侧图像以及相应的云侧标签，/n所述聚合模型存储部存储有至少根据云侧图像预先训练得到的云侧聚合模型，/n所述端侧通信部向所述云侧设备发...

【技术特征摘要】
1.一种保护端侧隐私的端云协同训练系统，其特征在于，包括：
云侧设备以及与该云侧设备相通信连接的端侧设备，
其中，所述云端设备包含云侧数据存储部、云侧自编码部、聚合模型存储部、损失处理部、聚合模型处理部、迭代部以及云侧通信部，
所述端侧设备包含端侧数据存储部、端侧聚合模型存储部以及端侧通信部，
所述端侧数据存储部存储有端侧图像以及相应的所述端侧标签，
所述端侧聚合模型存储部有基于所述端侧图像预先训练得到的所述端侧聚合模型，
所述云侧数据存储部用于存储云侧图像以及相应的云侧标签，
所述聚合模型存储部存储有至少根据云侧图像预先训练得到的云侧聚合模型，
所述端侧通信部向所述云侧设备发送所述端侧聚合模型，
所述云侧通信部接受来自所述端侧设备发送的所述端侧聚合模型，
所述云侧自编码部用于将所述云侧图像以及相应的所述云侧标签进行处理得到伪图像以及原有的所述云侧标签，
所述聚合模型处理部将所述伪图像分别输入所述端侧聚合模型和所述云侧聚合模型并处理得到输出端侧聚合模型和输出云侧聚合模型，
所述损失处理部基于所述图像、所述伪图像、输出云侧聚合模型以及输出端侧聚合模型进行处理得到相应的多个损失，
迭代部利用所述损失进行反向传播通过反复迭代来更新模型参数得到云侧训练伪图像生成器以及完成端云协同训练的端云聚合模型，
其中，所述伪图像所对应的所述云侧标签与所述图像所对应的所述云...

【专利技术属性】
技术研发人员：徐沐霖，薛向阳，李斌，
申请(专利权)人：复旦大学，
类型：发明
国别省市：上海;31