【技术实现步骤摘要】
本说明书涉及机器学习,尤其涉及一种分布式模型训练、业务执行方法、存储介质及设备。
技术介绍
1、随着现代芯片制造业的快速发展,计算机的算力得到了极大的提升,从而可以训练更加大型的深度神经网络模型,但是,训练好一个复杂神经网络模型,需要大量的数据,而由于数据隐私保护等原因,很多数据都是在各个终端设备中存储的,例如:病人的个人病理信息、用户的资产信息等。所以,由于联邦学习具有利用处于不同终端设备中的训练数据训练一个模型,同时又不将这些训练数据传送到一个中心服务器端以对训练数据的隐私性进行保护的特点,使得联邦学习被广泛的用于模型的训练中。
2、但是,由于各个终端设备中保存的训练数据往往存在着数据异质性问题(即,不同的终端设备所保存的训练数据的数据分布并不相同,例如:在不同的终端设备中存储的给一本流行小说打分的打分数据,会受到不同终端设备的用户的个人的爱好、教育背景的差异的影响,使得的不同的终端设备中存储的往往打分数据千差万别),从而使得联邦学习的中心服务器将所有参与训练的终端设备上传的模型参数进行求和取平均值,得到的新的模型参数重
...【技术保护点】
1.一种分布式模型训练方法,其特征在于,包括:
2.如权利要求1所述的方法,其特征在于,获取预设的本地分类模型对各本地训练数据进行分类后所输出的每种分类结果对应的特征表示原型,具体包括:
3.如权利要求1所述的方法,其特征在于,将所述每种分类结果对应的特征表示原型以及所述本地分类模型的模型参数发送给中心服务器,以使所述中心服务器根据各下游设备发送的各特征表示原型,确定每种分类结果对应的整体特征表示原型,具体包括:
4.如权利要求1所述的方法,其特征在于,将所述每种分类结果对应的特征表示原型以及所述本地分类模型的模型参数发送给中心服务
...【技术特征摘要】
1.一种分布式模型训练方法,其特征在于,包括:
2.如权利要求1所述的方法,其特征在于,获取预设的本地分类模型对各本地训练数据进行分类后所输出的每种分类结果对应的特征表示原型,具体包括:
3.如权利要求1所述的方法,其特征在于,将所述每种分类结果对应的特征表示原型以及所述本地分类模型的模型参数发送给中心服务器,以使所述中心服务器根据各下游设备发送的各特征表示原型,确定每种分类结果对应的整体特征表示原型,具体包括:
4.如权利要求1所述的方法,其特征在于,将所述每种分类结果对应的特征表示原型以及所述本地分类模型的模型参数发送给中心服务器,以使所述中心服务器根据各下游设备发送的特征表示原型,确定每种分类结果对应的整体特征表示原型,以及,将各下游设备发送的模型参数融合,得到融合模型参数,将所述每种分类结果对应...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。