一种基于联邦学习的集成学习分类器及分类方法技术

本发明专利技术公开了一种基于联邦学习的集成学习分类器及分类方法，属于联邦学习和集成学习技术领域，该分类器使用多个本地模型进行分类，所述多个本地模型在联邦学习框架下训练，并使用加权投票的方式进行集成，得到最终的分类结果；在进行联邦学习训练时，采用动态选举的方式进行模型选择，在每轮训练过程中，中心服务器随机选择部分本地设备参与训练。本发明专利技术可以保护数据的隐私性，同时模型具有较好的鲁棒性，并使训练过程更加高效。并使训练过程更加高效。并使训练过程更加高效。

【技术实现步骤摘要】
一种基于联邦学习的集成学习分类器及分类方法


[0001]本专利技术涉及联邦学习和集成学习
，具体地说是一种基于联邦学习的集成学习分类器及分类方法。

技术介绍

[0002]随着深度学习的发展，集成学习已经成为一种广泛使用的技术，通过将多个模型进行集成，可以获得比单个模型更好的分类性能。在传统的集成学习方法中，通常是将多个模型在同一数据集上进行训练，然后使用加权投票等方式进行集成。然而，这种方法存在一定的局限性，例如需要在中心服务器上集中存储数据，难以保护隐私等问题。

技术实现思路

[0003]本专利技术的技术任务是针对以上不足之处，提供一种基于联邦学习的集成学习分类器及分类方法，可以保护数据的隐私性，同时模型具有较好的鲁棒性，并使训练过程更加高效。
[0004]本专利技术解决其技术问题所采用的技术方案是：
[0005]一种基于联邦学习的集成学习分类器，该分类器使用多个本地模型进行分类，所述多个本地模型在联邦学习框架下训练，并使用加权投票的方式进行集成，得到最终的分类结果；
[0006]在进行联邦学习训练时，采用动态选举的方式进行模型选择，在每轮训练过程中，中心服务器随机选择部分本地设备参与训练，从而增加了模型的多样性。
[0007]该分类器使用多个本地模型进行分类，这些模型是在联邦学习框架下训练的，并使用加权投票的方式进行集成。具有可以保护数据的隐私性、模型具有较好的鲁棒性、训练过程更加高效等特点。
[0008]优选的，所述使用加权投票的方式进行集成，每个本地模型将自己的分类结果提交给中心服务器，中心服务器使用加权投票的方式将这些结果进行集成，得到最终的分类结果。
[0009]进一步的，在测试阶段，对新的数据样本进行分类时，多个本地模型对该样本进行分类，最终分类结果由中心服务器进行加权投票得到。
[0010]优选的，所述多个本地模型，均是在各自的本地设备上训练，每个本地设备只能访问自己的本地数据集，从而保护了数据的隐私性；
[0011]中心服务器将集成后的分类结果反馈给每个本地设备，本地设备使用反馈结果更新本地模型。
[0012]优选的，该分类器的具体实现方式如下：
[0013]1)、在中心服务器上初始化一个全局模型，该模型将被用于集成本地模型的分类结果；
[0014]2)、每个设备的本地数据组成训练数据集，每个设备只能访问自己的本地数据集；
[0015]3)、在每轮训练过程中，中心服务器随机选择一部分本地设备参与训练，每个本地设备使用本地数据集训练一个本地模型；
[0016]4)、每个本地模型将自己的分类结果提交给中心服务器，中心服务器使用加权投票的方式将这些结果进行集成，得到最终的分类结果；
[0017]5)、中心服务器将集成后的分类结果反馈给每个本地设备，本地设备使用反馈结果更新本地模型；
[0018]6)、重复执行步骤3)至步骤5)，直到全局模型收敛或达到预设的迭代次数；
[0019]7)、在测试阶段，对新的数据样本进行分类时，多个本地模型对该样本进行分类，最终分类结果由中心服务器进行加权投票得到。
[0020]优选的，加权投票的权重根据每个本地模型的准确率进行分配，准确率越高的模型权重越大。
[0021]本专利技术还要求保护一种基于联邦学习的集成学习分类方法，使用多个本地模型进行分类，所述多个本地模型在联邦学习框架下训练，并使用加权投票的方式进行集成，得到最终的分类结果；
[0022]所述多个本地模型，均是在各自的本地设备上训练，每个本地设备只能访问自己的本地数据集，从而保护了数据的隐私性；中心服务器将集成后的分类结果反馈给每个本地设备，本地设备使用反馈结果更新本地模型；
[0023]在进行联邦学习训练时，采用动态选举的方式进行模型选择，在每轮训练过程中，中心服务器随机选择部分本地设备参与训练。
[0024]优选的，所述使用加权投票的方式进行集成，每个本地模型将自己的分类结果提交给中心服务器，中心服务器使用加权投票的方式将这些结果进行集成，得到最终的分类结果。
[0025]进一步的，在测试阶段，对新的数据样本进行分类时，多个本地模型对该样本进行分类，最终分类结果由中心服务器进行加权投票得到。
[0026]优选的，该分类方法的实现方式如下：
[0027]1)、在中心服务器上初始化一个全局模型，该模型将被用于集成本地模型的分类结果；
[0028]2)、每个设备的本地数据组成训练数据集，每个设备只能访问自己的本地数据集；
[0029]3)、在每轮训练过程中，中心服务器随机选择一部分本地设备参与训练，每个本地设备使用本地数据集训练一个本地模型；
[0030]4)、每个本地模型将自己的分类结果提交给中心服务器，中心服务器使用加权投票的方式将这些结果进行集成，得到最终的分类结果；
[0031]5)、中心服务器将集成后的分类结果反馈给每个本地设备，本地设备使用反馈结果更新本地模型；
[0032]6)、重复执行步骤3)至步骤5)，直到全局模型收敛或达到预设的迭代次数；
[0033]7)、在测试阶段，对新的数据样本进行分类时，多个本地模型对该样本进行分类，最终分类结果由中心服务器进行加权投票得到。
[0034]本专利技术的一种基于联邦学习的集成学习分类器及分类方法与现有技术相比，具有以下有益效果：
[0035]1、可以保护数据的隐私性。每个本地设备只能访问自己的本地数据集，不需要将数据集集中存储在中心服务器上，因此可以保护数据的隐私性。
[0036]2、模型具有较好的鲁棒性。通过使用多个本地模型进行集成，可以增加模型的多样性，从而提高模型的鲁棒性。
[0037]3、训练过程更加高效。由于本地设备进行训练，不需要将数据传输到中心服务器，因此可以减少通信开销，提高训练效率。
附图说明
[0038]图1是本专利技术一个实施例提供的基于联邦学习的集成学习分类器实现方法流程示图。
具体实施方式
[0039]下面结合具体实施例对本专利技术作进一步说明。
[0040]本专利技术实施例提供了一种基于联邦学习的集成学习分类器，该分类器使用多个本地模型进行分类，所述多个本地模型在联邦学习框架下训练，并使用加权投票的方式进行集成，得到最终的分类结果；
[0041]所述多个本地模型，均是在各自的本地设备上训练，每个本地设备只能访问自己的本地数据集，从而保护了数据的隐私性；
[0042]中心服务器将集成后的分类结果反馈给每个本地设备，本地设备使用反馈结果更新本地模型。
[0043]所述使用加权投票的方式进行集成，每个本地模型将自己的分类结果提交给中心服务器，中心服务器使用加权投票的方式将这些结果进行集成，得到最终的分类结果；
[0044]在测试阶段，对新的数据样本进行分类时，多个本地模型对该样本进行分类，最终分类结果由中心服务器进行加权投票得到。
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于联邦学习的集成学习分类器，其特征在于，该分类器使用多个本地模型进行分类，所述多个本地模型在联邦学习框架下训练，并使用加权投票的方式进行集成，得到最终的分类结果；在进行联邦学习训练时，采用动态选举的方式进行模型选择，在每轮训练过程中，中心服务器随机选择部分本地设备参与训练。2.根据权利要求1所述的一种基于联邦学习的集成学习分类器，其特征在于，所述使用加权投票的方式进行集成，每个本地模型将自己的分类结果提交给中心服务器，中心服务器使用加权投票的方式将这些结果进行集成，得到最终的分类结果。3.根据权利要求1或2所述的一种基于联邦学习的集成学习分类器，其特征在于，在测试阶段，对新的数据样本进行分类时，多个本地模型对该样本进行分类，最终分类结果由中心服务器进行加权投票得到。4.根据权利要求3所述的一种基于联邦学习的集成学习分类器，其特征在于，所述多个本地模型，均是在各自的本地设备上训练，每个本地设备只能访问自己的本地数据集；中心服务器将集成后的分类结果反馈给每个本地设备，本地设备使用反馈结果更新本地模型。5.根据权利要求4所述的一种基于联邦学习的集成学习分类器，其特征在于，该分类器的具体实现方式如下：1)、在中心服务器上初始化一个全局模型，该模型将被用于集成本地模型的分类结果；2)、每个设备的本地数据组成训练数据集，每个设备只能访问自己的本地数据集；3)、在每轮训练过程中，中心服务器随机选择一部分本地设备参与训练，每个本地设备使用本地数据集训练一个本地模型；4)、每个本地模型将自己的分类结果提交给中心服务器，中心服务器使用加权投票的方式将这些结果进行集成，得到最终的分类结果；5)、中心服务器将集成后的分类结果反馈给每个本地设备，本地设备使用反馈结果更新本地模型；6)、重复执行步骤3)至步骤5)，直到全局模型收敛或达到预设的迭代次数；7)、在测试阶段，对新的数据样本进行分类时，多个本地模型对该样本进行分类，最终分类结果由中心服务器进行加权投票得到。6.根据权利要求5所述的一种基于联邦学习的集成学习...

【专利技术属性】
技术研发人员：李彬，贾荫鹏，李圣伟，孙善宝，罗清彩，李锐，
申请(专利权)人：山东浪潮科学研究院有限公司，
类型：发明
国别省市：