【技术实现步骤摘要】
本专利技术属于计算机领域，专注于物联网设备异构模型联邦学习精度，提出了一种通过分层自蒸馏实现的异构联邦学习方法，借助异构设备上的各种层次结构模型完成全局模型的学习。
技术介绍
1、近些年，出于对用户隐私的保护和企业间的合作，联邦学习在物联网端云协同系统与信息物理融合系统等领域得到较为广泛的应用。联邦学习对于用户隐私性的保护，依赖于它的算法并不需要获得私人设备的数据，仅需将计算的梯度返回给云端服务器。现阶段联邦学习算法，由于各种限制，往往要求各设备端和云端模型一致。
2、但是，在现实生活中，上述条件往往难以满足。一方面，受限于每个设备自身计算、通讯、存储等差异性，统一使用相同模型往往会牺牲部分设备的性能；另一方面，由于各设备应用场景的不同，设备需要依据目的调整使用的模型，这也要求模型具有一定异构型。
3、然而，目前大多数算法并未考虑上述问题，仅考虑相同模型之间的协作，包括云端对相同模型的聚合，以及将更新的模型下发给具有相同模型的设备。如何在保证各设备依据自身条件选择训练的局部模型，同时使得云端可以有效利用各设备不同...
【技术保护点】
1.一种通过分层自蒸馏的异构模型联邦学习方法，其特征在于，该方法包括以下具体步骤：
2.根据权利要求1所述的异构模型联邦学习方法，其特征在于，步骤4所述云聚合，是为了将各设备所拥有的全局模型的子集，即各设备的局部模型，按照其在全局模型的对应关系对梯度进行平均，并更新对应的全局模型参数，提高全局模型的精确度。
3.根据权利要求1所述的异构模型联邦学习方法，其特征在于，步骤5所述的元学习器，用于对各层次结构模型的预测进行集成，并通过集成结果与真实标签之间的交叉熵进行更新；
4.根据权利要求1所述的异构模型联邦学习方法，其特征在于，步骤6...
【技术特征摘要】
1.一种通过分层自蒸馏的异构模型联邦学习方法，其特征在于，该方法包括以下具体步骤：
2.根据权利要求1所述的异构模型联邦学习方法，其特征在于，步骤4所述云聚合，是为了将各设备所拥有的全局模型的子集，即各设备的局部模型，按照其在全局模型的对应关系对梯度进行平均，并更新对应的全局模型参数，提高全局模型的精确度...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。