一种数据处理方法、装置、设备及系统制造方法及图纸

本申请提供一种数据处理方法、装置、设备及系统，该方法包括：获取与第一客户端的本域数据匹配的第一目标联邦模型，第一目标联邦模型包括网络骨干层和第一网络头层；将网络骨干层发送给每个第二客户端，以使第二客户端生成第二目标联邦模型，第二目标联邦模型包括所述网络骨干层和随机网络头层，基于第二客户端的本域数据对随机网络头层的模型参数进行调整，得到第二网络头层；接收每个第二客户端返回的第二网络头层，并基于所述网络骨干层、所述第一网络头层和每个第二客户端返回的第二网络头层生成最终联邦模型；其中，所述最终联邦模型用于对待处理数据进行处理。通过本申请的技术方案，最终联邦模型在本域数据和它域数据上的性能均比较高。的性能均比较高。的性能均比较高。

【技术实现步骤摘要】
一种数据处理方法、装置、设备及系统


[0001]本申请涉及人工智能领域，尤其是一种数据处理方法、装置、设备及系统。

技术介绍

[0002]人工智能在各个领域发展迅速，从人脸识别、图像识别、目标检测、语义分割、实例分割，再到无人驾驶等领域，均可以采用人工智能进行处理。
[0003]机器学习是实现人工智能的一种途径，是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习用于研究计算机如何模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。机器学习更加注重算法设计，使计算机能够自动地从数据中学习规律，并利用规律对未知数据进行预测。
[0004]为了采用机器学习实现人工智能，需要获取大量训练数据，并通过大量训练数据训练出高性能的机器学习模型，继而通过机器学习模型实现人工智能。
[0005]然而，针对每个数据持有端来说，该数据持有端持有的数据有限，无法利用本地数据训练出高性能的机器学习模型。出于数据隐私需求，针对每个数据持有端，该数据持有端也不会将本地本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，联邦学习系统包括第一客户端和至少一个第二客户端，所述方法应用于所述第一客户端，所述方法包括：获取与所述第一客户端的本域数据匹配的第一目标联邦模型；其中，所述第一目标联邦模型包括网络骨干层和第一网络头层；将所述网络骨干层发送给每个第二客户端，以使第二客户端生成第二目标联邦模型，所述第二目标联邦模型包括所述网络骨干层和随机网络头层，所述随机网络头层的结构与所述第一网络头层的结构相同，所述随机网络头层的模型参数与所述第一网络头层的模型参数不同，基于所述第二客户端的本域数据对所述随机网络头层的模型参数进行调整，得到第二网络头层；接收每个第二客户端返回的第二网络头层，并基于所述网络骨干层、所述第一网络头层和每个第二客户端返回的第二网络头层生成最终联邦模型；其中，所述最终联邦模型用于对待处理数据进行处理。2.根据权利要求1所述的方法，其特征在于，基于所述网络骨干层、所述第一网络头层和每个第二客户端返回的第二网络头层生成最终联邦模型，包括：将所述网络骨干层的输出端与所述第一网络头层、每个第二网络头层拼接，得到所述最终联邦模型；其中，在所述最终联邦模型中，所述第一网络头层和每个第二网络头层为并行关系。3.根据权利要求2所述的方法，其特征在于，所述基于所述网络骨干层、所述第一网络头层和每个第二客户端返回的第二网络头层生成最终联邦模型之后，所述方法还包括：将待处理数据输入给所述最终联邦模型的所述网络骨干层，由所述网络骨干层对所述待处理数据进行处理，得到所述待处理数据对应的数据特征；将所述数据特征输入给所述第一网络头层，由所述第一网络头层对所述数据特征进行处理，得到第一处理结果，并将所述数据特征输入给每个第二网络头层，由各第二网络头层对所述数据特征进行处理，得到第二处理结果；基于第一处理结果和各第二处理结果确定所述待处理数据的目标处理结果。4.根据权利要求1所述的方法，其特征在于，所述基于所述第二客户端的本域数据对所述随机网络头层的模型参数进行调整，得到第二网络头层，包括：所述第二客户端将所述第二客户端的本域数据输入给所述第二目标联邦模型，以通过所述第二客户端的本域数据对所述第二目标联邦模型进行训练；其中，在通过所述第二客户端的本域数据对所述第二目标联邦模型进行训练时，对所述随机网络头层的模型参数进行调整，得到与所述第二客户端的本域数据匹配的第二网络头层，且不对所述网络骨干层的模型参数进行调整。5.根据权利要求1
‑
4任一项所述的方法，其特征在于，所述第一目标联邦模型包括K个网络层，所述方法还包括：基于已配置的划分参数M将所述第一目标联邦模型的K个网络层划分为网络骨干层和第一网络头层；其中，所述K个网络层中的前面M个网络层是网络骨干层，且除网络骨干层之外的其余网络层是第一网络头层；或者，基于已配置的划分参数N将所述第一目标联邦模型的K个网络层划分为网络骨干层和
第一网络头层；其中，所述K个网络层中的后面N个网络层是第一网络头层，且除第一网络头层之外的其余网络层是网络骨干层；其中，K、M和N均为正整数，M小于K，N小于K。6.根据权利要求1
‑
4任一项所述的方法，其特征在于，所述获取与所述第一客户端的本域数据匹配的第一目标联邦模型，包括：基于所述第一客户端的本域数据对已获取的原始模型进行训练，得到已训练的初始联邦模型，将所述初始联邦模型发送给服务端，由所述服务端基于所述第一客户端的初始联邦模型和各第二客户端的初始联邦模型，为所述第一客户端生成与所述第一客户端的本域数据匹配的第一目标联邦模型；从所述服务端获取所述第一目标联邦模型。7.根据权利要求6所述的方法，其特征在于，所述服务端基于所述第一客户端的初始联邦模型和各第二客户端的初始联邦模型，为所述第一客户端生成与所述第一客户端的本域数据匹配的第一目标联邦模型，包括：所述服务端基于所述第一客户端的加权系数和各第二客户端的加权系数，对所述第一客户端的初始联邦模型和各第二客户端的初始联邦模型进行加权融合，得到与所述第一客户端的本域数据匹配的第一目标联邦模型；其中，所述第一客户端的加权系数大于每个第二客户端的加权系数。8.一种数据处理装置，其特征在于，联邦学习系统包括第一客户端和至少一个第二客户端，所述装置应用于所述第一客户端，所述装置包括：获取模块，用于获取与所述第一客户端的本域数据匹配的第一目标联邦模型，所述第一目标联邦模型包括网络骨干层和第一网络头层；发送模块，用于将所述网络骨干层发送给每个第二客户端，以使第...

【专利技术属性】
技术研发人员：吴昌建，张迪，陈鹏，张玉全，薛军印，黄球，连欢欢，田清波，
申请(专利权)人：杭州海康威视数字技术股份有限公司，
类型：发明
国别省市：