【技术实现步骤摘要】
模型联合训练方法、装置、电子设备和存储介质
本申请涉及人工智能和云计算
，尤其涉及深度学习
，具体涉及一种模型联合训练方法、装置、电子设备和存储介质。
技术介绍
机器学习是人工智能的核心，基于概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科，通过计算机重新组织已有的知识结构使之不断改善自身的性能。联合机器学习(Federatedmachinelearning)用于帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和机器学习建模。
技术实现思路
本公开提供了一种用于模型联合训练方法、装置、电子设备以及存储介质。根据本公开的一方面，提供了一种模型联合训练方法，包括：根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。根据本公开的又一方面，提...
【技术保护点】
1.一种模型联合训练方法，包括：/n根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；/n基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。/n
【技术特征摘要】
1.一种模型联合训练方法，包括：
根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；
基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。
2.根据权利要求1所述的方法，其中，所述根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，包括：
根据在相似任务下的用户相似特征和用户相似标签，对深度学习模型进行训练，得到相似蒸馏模型。
3.根据权利要求1所述的方法，还包括：
根据相似任务的用户标签值分布，对相似任务的训练样本进行抽样；
根据抽取的训练样本确定所述用户相似特征和所述用户相似标签。
4.根据权利要求1所述的方法，还包括：
根据从所述标签提供方获取的用户标识密文，确定用户标识原文；
根据所述用户标识原文，确定所述用户目标特征。
5.根据权利要求1所述的方法，其中，所述基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，包括：
将所述相似表征模型后接目标任务的预测输出层，得到联合建模的联合预测模型；
根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签对所述联合预测模型进行训练，得到所述目标任务模型。
6.根据权利要求1所述的方法，其中，所述基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，包括：
将在目标任务下的用户目标特征作为所述相似表征模型的输入，得到用户的相似表征特征；
对在目标任务下的用户目标特征和所述相似表征特征进行融合，得到用户联合特征；
根据所述用户联合特征和从标签提供方获取的用户目标标签构建目标任务模型。
7.根据权利要求1所述方法，模型训练方与所述标签提供方之间采用同态加密算法进行数据交互。
8.一种模型联合训练方法，包括：
确定在目标任务下的用户目标标签；
向模型训练方发送携带有所述用户目标标签的模型训练请求，用于指示所述模型训练方执行如下：根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；基于所述相似表征模型，根据在目标任务下的用户目标特征和所述用户目标标签构建目标任务模型。
9.一种模型联合训练装置，包括：
表征模型模块，用于根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；
目标任务模型模块，用于基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签...
【专利技术属性】
技术研发人员：徐思琪，钟辉强，尹存祥，陈亮辉，方军，周厚谦，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。