网络训练方法及装置、电子设备和存储介质制造方法及图纸

本公开涉及一种网络训练方法及装置、电子设备和存储介质，所述方法应用于客户端，所述方法包括：接收服务端发送的服务端编码网络参数和服务端预测网络参数；基于服务端编码网络参数、服务端预测网络参数以及本地图像数据集，对客户端中部署第一编码网络、第二编码网络以及第一预测网络进行训练，得到第一编码网络对应的第一编码网络参数和第一预测网络对应的第一预测网络参数；向服务端发送第一编码网络参数和第一预测网络参数，以在服务端中更新服务端编码网络参数和服务端预测网络参数；迭代地执行上述步骤，直至迭代训练满足预设训练条件，迭代训练后的第一编码网络和/或服务端编码网络用于对待处理图像进行图像处理。端编码网络用于对待处理图像进行图像处理。端编码网络用于对待处理图像进行图像处理。

【技术实现步骤摘要】
网络训练方法及装置、电子设备和存储介质


[0001]本公开涉及计算机
，尤其涉及一种网络训练方法及装置、电子设备和存储介质。

技术介绍

[0002]在机器学习领域，特征学习一直受到广泛的关注。和预测性学习不同，特征学习的目的不是通过原始数据去学习某个观察结果，而是学习原始数据的底层结构，从而分析原始数据的其他特性。例如，输入的数据是图片、视频、语音文字等，这些都是高维且冗余复杂的数据，传统的手动特征提取已经变得不切实际，近年来广受关注的是使用深度学习来学习特征。学习得到的特征可以被进一步用到下游的其他任务上，例如，通过图片分类任务学习得到的特征，能够被用到物体检测、场景分割等任务上。
[0003]传统的用于进行无监督特征学习的数据通常是从网上下载得到的，例如，ImageNet等数据集。但是，随着近年来边端设备(例如，摄像头、手机等)的爆炸式增长，边端设备上有大量的图片数据可供学习，通过这些数据学习得到的编码网络，将更能适应对应场景下的特征学习。但是因为隐私保护的原因，不能将这些数据全部都汇聚到一个服务端上。因此，亟需一种可以避免隐私数据泄露的编码网络训练方法。

技术实现思路

[0004]本公开提出了一种网络训练方法及装置、电子设备和存储介质的技术方案。
[0005]根据本公开的一方面，提供了一种网络训练方法，所述方法应用于客户端，所述客户端中部署有第一编码网络、第二编码网络、第一预测网络和本地图像数据集，所述方法包括：接收服务端发送的服务端编码网络参数和服务端预测网络参数，其中，所述服务端中部署有服务端编码网络和服务端预测网络，所述服务端编码网络参数和所述服务端预测网络参数是所述服务端联合至少两个所述客户端对所述服务端编码网络和所述服务端预测网络进行训练获得；基于所述服务端编码网络参数、所述服务端预测网络参数以及所述本地图像数据集，对所述第一编码网络、所述第二编码网络以及所述第一预测网络进行训练，得到所述第一编码网络对应的第一编码网络参数和所述第一预测网络对应的第一预测网络参数；向所述服务端发送所述第一编码网络参数和所述第一预测网络参数，其中，所述第一编码网络参数和所述第一预测网络参数用于在所述服务端中更新所述服务端编码网络参数和所述服务端预测网络参数；迭代地执行上述步骤，直至迭代训练满足预设训练条件，迭代训练后的所述第一编码网络和/或所述服务端编码网络用于对待处理图像进行图像处理。
[0006]在一种可能的实现方式中，所述基于所述服务端编码网络参数、所述服务端预测网络参数以及所述本地图像数据集，对所述第一编码网络、所述第二编码网络以及所述第一预测网络进行训练，得到所述第一编码网络对应的第一编码网络参数和所述第一预测网络对应的第一预测网络参数，包括：将所述第一编码网络对应的当前编码网络参数更新为
所述服务端编码网络参数，得到更新后的所述第一编码网络；确定所述服务端编码网络参数和所述第一编码网络更新前的所述当前编码网络参数之间的相似度；基于所述相似度和所述服务端预测网络参数，更新所述第一预测网络对应的当前预测网络参数，得到更新后的所述第一预测网络；基于所述本地图像数据集，对更新后的所述第一编码网络以及更新后的所述第一预测网络进行训练，得到所述第一编码网络参数和所述第一预测网络参数。
[0007]在一种可能的实现方式中，所述确定所述服务端编码网络参数和所述第一编码网络更新前的所述当前编码网络参数之间的相似度，包括：确定所述服务端编码网络参数和更新前的所述当前编码网络参数之间的欧式距离；将所述欧式距离确定为所述相似度。
[0008]在一种可能的实现方式中，所述基于所述相似度和所述服务端预测网络参数，更新所述第一预测网络对应的当前预测网络参数，得到更新后的所述第一预测网络，包括：在所述相似度小于相似度阈值的情况下，将所述当前预测网络参数更新为所述服务端预测网络参数，得到更新后的所述第一预测网络；或者，在所述相似度大于或等于所述相似度阈值的情况下，保持所述当前预测网络参数不变。
[0009]在一种可能的实现方式中，所述本地图像数据集中包括多个目标图像；所述基于所述本地图像数据集，对更新后的所述第一编码网络以及更新后的所述第一预测网络进行训练，得到所述第一编码网络参数和所述第一预测网络参数，包括：对每个所述目标图像分别进行两种不同的图像变换处理，得到每个所述目标图像对应的第一变换图像和第二变换图像；利用更新后的所述第一编码网络以及更新后的所述第一预测网络，对每个所述目标图像对应的所述第一变换图像进行图像处理，得到每个所述目标图像对应的第一输出向量；利用所述第二编码网络，对每个所述目标图像对应的所述第二变换图像进行图像处理，得到每个所述目标图像对应的第二输出向量；根据每个所述目标图像对应的所述第一输出向量和所述第二输出向量，确定每个所述目标图像对应的对比训练损失；根据每个所述目标图像对应的所述对比训练损失，调整更新后的所述第一编码网络以及更新后的所述第一预测网络的网络参数，得到所述第一编码网络参数和所述第一预测网络参数。
[0010]在一种可能的实现方式中，所述方法还包括：基于预设权重，利用所述第一编码网络参数的指数移动平均值，更新所述第二编码网络对应的当前编码网络参数。
[0011]根据本公开的一方面，提供了一种网络训练方法，所述方法应用于服务端，所述服务端中部署有服务端编码网络和服务端预测网络，所述方法包括：接收至少两个客户端发送的第一编码网络参数和第一预测网络参数，其中，每个客户端中分别部署有第一编码网络、第二编码网络、第一预测网络和本地图像数据集，所述第一编码网络参数和所述第一预测网络参数是基于所述本地图像数据集，对所述第一编码网络、所述第二编码网络以及所述第一预测网络进行训练获得；根据所述第一编码网络参数，更新所述服务端编码网络，得到服务端编码网络参数，以及根据所述第一预测网络参数，更新所述服务端预测网络，得到服务端预测网络参数；向每个所述客户端发送所述服务端编码网络参数和所述服务端预测网络参数，其中，所述服务端编码网络参数和所述服务端预测网络参数用于在每个所述客户端中更新所述第一编码网络参数和所述第一预测网络参数；迭代地执行上述步骤，直至迭代训练满足预设训练条件，迭代训练后的所述服务端编码网络和/或所述第一编码网络用于对待处理图像进行图像处理。
[0012]根据本公开的一方面，提供了一种网络训练装置，所述装置应用于客户端，所述客
户端中部署有第一编码网络、第二编码网络、第一预测网络和本地图像数据集，所述装置包括：接收模块，用于接收服务端发送的服务端编码网络参数和服务端预测网络参数，其中，所述服务端中部署有服务端编码网络和服务端预测网络，所述服务端编码网络参数和所述服务端预测网络参数是所述服务端联合至少两个所述客户端对所述服务端编码网络和所述服务端预测网络进行训练获得；训练模块，用于基于所述服务端编码网络参数、所述服务端预测网络参数以及所述本地图像数据集，对所述第一编码网络、所述第二编码网络以及所述第一预测网络进行训练，得到所述第一编码网络对应本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种网络训练方法，其特征在于，所述方法应用于客户端，所述客户端中部署有第一编码网络、第二编码网络、第一预测网络和本地图像数据集，所述方法包括：接收服务端发送的服务端编码网络参数和服务端预测网络参数，其中，所述服务端中部署有服务端编码网络和服务端预测网络，所述服务端编码网络参数和所述服务端预测网络参数是所述服务端联合至少两个所述客户端对所述服务端编码网络和所述服务端预测网络进行训练获得；基于所述服务端编码网络参数、所述服务端预测网络参数以及所述本地图像数据集，对所述第一编码网络、所述第二编码网络以及所述第一预测网络进行训练，得到所述第一编码网络对应的第一编码网络参数和所述第一预测网络对应的第一预测网络参数；向所述服务端发送所述第一编码网络参数和所述第一预测网络参数，其中，所述第一编码网络参数和所述第一预测网络参数用于在服务端中更新所述服务端编码网络参数和所述服务端预测网络参数；迭代地执行上述步骤，直至迭代训练满足预设训练条件，迭代训练后的所述第一编码网络和/或所述服务端编码网络用于对待处理图像进行图像处理。2.根据权利要求1所述的方法，其特征在于，所述基于所述服务端编码网络参数、所述服务端预测网络参数以及所述本地图像数据集，对所述第一编码网络、所述第二编码网络以及所述第一预测网络进行训练，得到所述第一编码网络对应的第一编码网络参数和所述第一预测网络对应的第一预测网络参数，包括：将所述第一编码网络对应的当前编码网络参数更新为所述服务端编码网络参数，得到更新后的所述第一编码网络；确定所述服务端编码网络参数和所述第一编码网络更新前的所述当前编码网络参数之间的相似度；基于所述相似度和所述服务端预测网络参数，更新所述第一预测网络对应的当前预测网络参数，得到更新后的所述第一预测网络；基于所述本地图像数据集，对更新后的所述第一编码网络以及更新后的所述第一预测网络进行训练，得到所述第一编码网络参数和所述第一预测网络参数。3.根据权利要求2所述的方法，其特征在于，所述确定所述服务端编码网络参数和所述第一编码网络更新前的所述当前编码网络参数之间的相似度，包括：确定所述服务端编码网络参数和所述第一编码网络更新前的所述当前编码网络参数之间的欧式距离；根据所述欧式距离，确定所述相似度。4.根据权利要求3所述的方法，其特征在于，所述基于所述相似度和所述服务端预测网络参数，更新所述第一预测网络对应的当前预测网络参数，得到更新后的所述第一预测网络，包括：在所述相似度小于相似度阈值的情况下，将所述当前预测网络参数更新为所述服务端预测网络参数，得到更新后的所述第一预测网络；或者，在所述相似度大于或等于所述相似度阈值的情况下，保持所述当前预测网络参数不变。5.根据权利要求2至4中任意一项所述的方法，其特征在于，所述本地图像数据集中包
括多个目标图像；所述基于所述本地图像数据集，对更新后的所述第一编码网络以及更新后的所述第一预测网络进行训练，得到所述第一编码网络参数和所述第一预测网络参数，包括：对每个所述目标图像分别进行两种不同的图像变换处理，得到每个所述目标图像对应的第一变换图像和第二变换图像；利用更新后的所述第一编码网络以及更新后的所述第一预测网络，对每个所述目标图像对应的所述第一变换图像进行图像处理，得到每个所述目标图像对应的第一输出向量；利用所述第二编码网络，对每个所述目标图像对应的所述第二变换图像进行图像处理，得到每个所述目标图像对应的第二输出向量；根据每个所述目标图像对应的所述第一输出向量和所述第二输出向量，确定每个所述目标图像对应的对比训练损失；根据每个所述目标图像对应的所述对比训练损失，调整更新后的所述第一编码网络以及更新后的所述第一预测网络的网络参数，得到所述第一编码网络参数和所述第一预测网络参数。6.根据权利要求5所述的方法，其特征在于，所述方法还包括：基于...

【专利技术属性】
技术研发人员：庄伟铭，张帅，
申请(专利权)人：商汤国际私人有限公司，
类型：发明
国别省市：