【技术实现步骤摘要】
联邦学习信息处理方法、系统、存储介质、程序、终端
本专利技术属于无线通信网络
，尤其涉及一种联邦学习信息处理方法、系统、存储介质、程序、终端。
技术介绍
目前，随着物联网，大数据和5G网络架构的快速发展和广泛应用，网络边缘设备生成的海量数据和实时服务需求已远远超过了传统云计算模型的能力，边缘计算将云服务扩展到网络边缘，具有低延迟，较小的带宽和隐私保护的优势。边缘计算充分利用了大量分布式边缘节点的计算能力，从而降低了云数据中心的计算压力，但是，边缘节点的管理也更加复杂，一些安全性较差的边缘节点可能会受到入侵者的恶意攻击，此外网络边缘的用户或设备生成的数据可能包含用户的隐私数据，例如位置信息，身体状况和活动记录。为了充分利用边缘数据，基于人工智能的方法挖掘数据信息，发现新的模式和知识，以提取新的和有价值的信息，但是，直接在多个边缘节点之间共享私有数据可能会导致很大的隐私泄露风险。联邦学习(FederatedLearning)是一种基于分布式数据训练模型的可行方法，该方法将私有数据保留在边缘节点中，通过共享参数训练模...
【技术保护点】
1.一种联邦学习信息处理方法，其特征在于，所述联邦学习信息处理方法包括：/n第一步，参数服务器确认训练任务及初始参数，并初始化全局模型；/n第二步，参数服务器随机选择部分参与者下发模型参数，加密并通过代理服务器转发；/n第三步，参与者接受模型部分参数并覆盖本地模型，利用本地数据对模型进行优化；/n第四步，参与者根据优化结果计算模型梯度，选择其中部分上传，对上传梯度添加噪声实现差分隐私，加密并通过代理服务器转发；/n第五步，参数服务器接受所有参与者的梯度，整合并更新全局模型；/n第六步，重复进行模型的下发—训练—更新过程，直到达到预期损失函数。/n
【技术特征摘要】 【专利技术属性】
1.一种联邦学习信息处理方法，其特征在于，所述联邦学习信息处理方法包括：
第一步，参数服务器确认训练任务及初始参数，并初始化全局模型；
第二步，参数服务器随机选择部分参与者下发模型参数，加密并通过代理服务器转发；
第三步，参与者接受模型部分参数并覆盖本地模型，利用本地数据对模型进行优化；
第四步，参与者根据优化结果计算模型梯度，选择其中部分上传，对上传梯度添加噪声实现差分隐私，加密并通过代理服务器转发；
第五步，参数服务器接受所有参与者的梯度，整合并更新全局模型；
第六步，重复进行模型的下发—训练—更新过程，直到达到预期损失函数。
2.如权利要求1所述的联邦学习信息处理方法，其特征在于，所述第一步的模型初始化包括：参数服务器确定训练任务，训练过程，以及相应的参数，并初始化全局模型
3.如权利要求1所述的联邦学习信息处理方法，其特征在于，所述第二步的模型下发包括：
步骤一，参数服务器随机选择m个参与者，全局模型分别用这m个参与者的公钥(PK1',PK2',…,PKm')加密，得到模型的密文数据：
步骤二，参数服务器将加密数据发送至代理服务器，代理服务器再转发给所有参与者。
4.如权利要求1所述的联邦学习信息处理方法，其特征在于，所述第三步的本地优化包括：所有参与者接收密文数据后，用自己的私钥解密，若能解密得到明文，则随机选择个参数，并替换对应本地模型上的参数值，得到本地模型Wit，并在本地数据集Di上优化模型，最小化损失函数：
其中，ni是数据集的样本数，xj表示某一样本，f(xj,Wit)是样本通过模型输出的标签，yj是样本本身标签；
通过小批量梯度下降法优化模型，将数据集Di分为大小为b_size大小的子数据集的集合Bi，对于Bi中每个子数据集b，根据梯度下降更新模型参数：
Wit←Wit-αΔL(Wit；b)；
其中，α是学习率，ΔL是损失函数在b上的梯度，对Bi中所有子数据集更新完一次后即为一个epoch，经过多个epoch后得到预期优化模型。
5.如权利要求1所述的联邦学习信息处理方法，其特征在于，所述第四步的梯度上传包括：
步骤一，计算模型梯度，即优化后模型与原全局模型的参数差值：
步骤二，选择其中最大的λu×|ΔWit|个梯度上传，保持梯度不变，其余梯度置为0，将要上传的梯度范围限制在[-r,r]，敏感度Δf不超过2r，为每个梯度添加噪音，满足ε-差分隐私：
技术研发人员：樊凯，赵斌，金海，尤伟，李晖，
申请(专利权)人：西安电子科技大学，
类型：发明
国别省市：陕西;61
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。