一种信息推送及其模型训练的方法、装置及电子设备制造方法及图纸

本说明书实施例公开了一种信息推送及其模型训练的方法、装置及电子设备，该方法包括：多个终端设备分别获取终端设备的用户的私有数据和对应的兴趣标签；多个所述终端设备分别将终端设备中用户的私有数据对应的嵌入向量及兴趣标签发送至云端服务器；所述云端服务器基于多个所述终端设备发送的嵌入向量及兴趣标签，通过联邦学习训练得到信息推送模型，以通过所述信息推送模型预测用户的兴趣标签并推送兴趣标签对应的信息。

A method, device and electronic equipment of information push and model training

【技术实现步骤摘要】
一种信息推送及其模型训练的方法、装置及电子设备
本文件涉及计算机软件
，尤其涉及一种信息推送及其模型训练的方法、装置及电子设备。
技术介绍
目前，端云联邦学习往往包括一个中心化的云端训练平台和多个移动端训练器。在模型训练过程中，云端和移动端之间则会存在大量的数据交互，比如用户的原始数据、模型参数的传递以及加密后的梯度的传递等数据，再在云端基于用户的原始数据合并这些传递过来的模型参数和加密后的梯度，最后通过云端更新得到最终的模型参数和梯度等模型训练过程中的相关数据。然而，在实际应用中，由于大多移动端的数据质量和通信速度质量往往会有所差异，这将会对模型训练的速度和质量带来不良的影响。此外，移动端向云端传递用户的原始数据也会涉及到用户私有数据的泄露，存在一定的安全隐患。
技术实现思路
本说明书实施例的目的是提供一种信息推送及其模型训练的方法、装置及电子设备，以优化模型的训练过程并保护用户的私有数据。为解决上述技术问题，本说明书实施例是这样实现的：第一方面，提出了一种信息推送模型的训练方法，包括：...

【技术保护点】
1.一种信息推送模型的训练方法，包括：/n多个终端设备分别获取终端设备的用户的私有数据和对应的兴趣标签；/n多个所述终端设备分别将终端设备中用户的私有数据对应的嵌入向量及兴趣标签发送至云端服务器；/n所述云端服务器基于多个所述终端设备发送的嵌入向量及兴趣标签，通过联邦学习训练得到信息推送模型，以通过所述信息推送模型预测用户的兴趣标签并推送兴趣标签对应的信息。/n

【技术特征摘要】
1.一种信息推送模型的训练方法，包括：
多个终端设备分别获取终端设备的用户的私有数据和对应的兴趣标签；
多个所述终端设备分别将终端设备中用户的私有数据对应的嵌入向量及兴趣标签发送至云端服务器；
所述云端服务器基于多个所述终端设备发送的嵌入向量及兴趣标签，通过联邦学习训练得到信息推送模型，以通过所述信息推送模型预测用户的兴趣标签并推送兴趣标签对应的信息。


2.如权利要求1所述的方法，多个所述终端设备分别将终端设备中用户的私有数据对应的嵌入向量及兴趣标签发送至云端服务器，包括：
多个所述终端设备分别将终端设备中用户的私有数据输入到终端设备中的特征提取模型，得到多个所述终端设备中用户的嵌入向量；
多个所述终端设备分别将终端设备中用户的私有数据对应的嵌入向量及兴趣标签发送至云端服务器。


3.如权利要求1所述的方法，多个所述终端设备分别将终端设备中用户的私有数据对应的嵌入向量及兴趣标签发送至云端服务器，包括：
所述云端服务器分别获取多个所述终端设备之间的通信距离；
所述云端服务器基于多个所述终端设备之间的通信距离，从多个所述终端设备中选取至少一个终端设备作为通信节点；
所述云端服务器将多个所述终端设备中与所述通信节点之间的通信距离小于或等于预设距离阈值的终端设备划分到对应的通信群组中，以通过所述通信节点汇总对应通信组群中的终端设备的用户的嵌入向量，其中，一个通信群组中包含一个通信节点，一个通信节点对应于一个终端设备；
通过所述通信节点分别将所述汇总后对应通信组群中的终端设备的用户的嵌入向量，发送给所述云端服务器。


4.如权利要求1所述的方法，所述云端服务器基于所述多个终端设备对应用户的嵌入向量和对应的兴趣标签，通过联邦学习训练得到信息推送模型，包括：
所述云端服务器对多个所述终端设备中用户的嵌入向量进行校验，得到与基准向量的偏差小于或等于预设阈值的用户的嵌入向量；
所述云端服务器基于与所述基准向量的偏差小于或等于预设阈值的用户的嵌入向量，通过联邦学习训练得到所述信息推送模型。


5.如权利要求4所述的方法，所述云端服务器对多个所述终端设备中用户的嵌入向量进行校验，得到与基准向量的偏差小于或等于预设阈值的用户的嵌入向量，包括：
所述云端服务器分别确定多个所述终端设备中用户的嵌入向量、与所述基准向量之间的欧式距离；
所述云端服务器获取所述欧式距离小于或等于预设阈值的用户的嵌入向量。


6.如权利要求1所述的方法，多个所述终端设备分别将终端设备中用户的私有数据对应的嵌入向量及兴趣标签发送至云端服务器之后，所述方法还包括：
所述云端服务器获取所述多个终端设备发送对应的用户的特征向量的延时时间段；
所述云端服务器从所述多个终端设备中，去除所述延时时间段大于或等于预设时间阈值的终端设备。


7.一种信息推送方法，所述方法应用于云端服务器，包括：
接收来自目标终端设备的用户的嵌入向量；
将所述目标终端设备的用户的嵌入向量输入到通过联邦学习训练得到的信息推送模型，预测所述目标终端设备的用户的兴趣标签；
将与所述目标终端设备的用户的兴趣标签对应的信息推送给所述目标终端设备的用户。


8.一种信息推送模型的训练方法，所述方法应用于终端设备，包括：
获取终端设备的用户的私有数据和对应的兴趣标签；
将所述终端设备的用户的私有数据对应的嵌入向量及兴趣标签发送至云端服务器，以使得所述云端服务器基于多个所述终端设备发送的嵌入向量及兴趣标签，通过联邦学习训练得到信息推送模型，以及通过所述信息推送模型预测用户的兴趣标签并推送兴趣标签对应的信息。


9.一种信息推送模型的训练方法，所述方法应用于云端服务器，包括：
基于多个终端设备发送的用户的私有数据对应的嵌入向量及兴趣标签，通过联邦学习训练得到信息推送模型；
通过所述信息推送模型预测用户的兴趣标签并推送兴趣标签对应的信息。


10.一种信息推送模型的训练系统，包括多个终端设备和云端服务器，其中：
多个所述终端设备分别获取终端设备的用户的私有数据和对应的兴趣标签；以及...

【专利技术属性】
技术研发人员：刘磊，杨耀，陈凌，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：浙江;33